1
00:00:02,000 --> 00:00:07,000

2
00:00:02,654 --> 00:00:04,656
[תזמורת גדולה
משחק]

3
00:00:08,000 --> 00:00:13,000

4
00:00:27,636 --> 00:00:29,681
♪ ♪

5
00:00:41,389 --> 00:00:43,217
[ציפורים מצייצות וקוראות]

6
00:00:48,657 --> 00:00:50,833
-[בורבל]
-[טרילינג]

7
00:00:55,055 --> 00:00:57,057
[מכשיר וידאו מקליק וזועף]

8
00:01:00,582 --> 00:01:02,018
[מקרן לוחץ]

9
00:01:04,847 --> 00:01:09,286
עכשיו, המחשבים של ימינו
הם מטומטמים גמורים,

10
00:01:09,330 --> 00:01:12,115
אבל זה לא יהיה נכון
בדור אחר.

11
00:01:12,159 --> 00:01:14,857
הם יתחילו לחשוב,
ובסופו של דבר הם יעשו זאת

12
00:01:14,900 --> 00:01:17,599
לחשוב לגמרי
היוצרים שלהם.

13
00:01:17,642 --> 00:01:20,254
האם זה מדכא?
אני לא מבין למה זה צריך להיות.

14
00:01:20,297 --> 00:01:24,823
אני חושד שזה אורגני
או אבולוציה ביולוגית

15
00:01:24,867 --> 00:01:26,303
הגיע לסופו.

16
00:01:27,739 --> 00:01:29,524
[דניאל מצחקק]

17
00:01:29,567 --> 00:01:30,655
קרוליין: את לא רוצה אותי
להיות המספר.

18
00:01:30,699 --> 00:01:32,353
אין לי קול טוב.

19
00:01:32,396 --> 00:01:34,006
דניאל: יש לך קול נהדר.
פשוט תעשה את זה.

20
00:01:34,050 --> 00:01:36,183
זה רק--
אנחנו רק מנסים את זה.

21
00:01:36,226 --> 00:01:37,967
קרוליין:
האם משלמים לי על החרא הזה?

22
00:01:38,010 --> 00:01:40,230
דניאל [צוחק]: ובכן,
נראה כמה טוב תצליח.

23
00:01:40,274 --> 00:01:41,579
[קרוליין צוחקת]

24
00:01:41,623 --> 00:01:43,451
-♪ ♪
-[כלב נובח]

25
00:01:46,454 --> 00:01:47,890
קרוליין:
אני צריך להתקשר להורים שלי.

26
00:01:47,933 --> 00:01:49,065
[מנוע מופעל]

27
00:01:49,109 --> 00:01:51,023
לפעמים אנחנו ממהרים לעסוק בדברים

28
00:01:51,067 --> 00:01:52,851
בלי לחשוב עליהם.

29
00:01:52,895 --> 00:01:54,723
דניאל: כן, אתה יכול...
אתה רוצה לירות? זה...

30
00:01:54,766 --> 00:01:57,204
קרוליין: כמו כשדניאל
וקרוליין התחתנה

31
00:01:57,247 --> 00:02:00,163
151 ימים לאחר שנפגשו.

32
00:02:00,207 --> 00:02:01,817
בואו נחזור אחורה.

33
00:02:03,079 --> 00:02:04,776
[מחיאות כפיים]

34
00:02:04,820 --> 00:02:07,170
האם חשבת על
לקנות מחשב ביתי?

35
00:02:07,214 --> 00:02:09,303
קרוליין:
בשנת 1993, כשדניאל נולד,

36
00:02:09,346 --> 00:02:12,132
להורים שלו אפילו לא היה
מחשב בבית.

37
00:02:12,175 --> 00:02:13,785
אבל הוא זוכר
כשהם סוף סוף קיבלו אחד.

38
00:02:13,829 --> 00:02:15,700
מה זה מחשב בשבילי

39
00:02:15,744 --> 00:02:18,355
המקבילה לאופניים
עבור המוח שלנו.

40
00:02:18,399 --> 00:02:20,227
שלום.

41
00:02:20,270 --> 00:02:22,185
קרוליין: המחשב שלו עזר
לשחרר את היצירתיות שלו.

42
00:02:22,229 --> 00:02:23,926
דניאל:
מתגלגל. לָלֶכֶת.

43
00:02:23,969 --> 00:02:26,581
קרוליין: הוא השתמש
ה-iMac של אבא שלו כדי לערוך סרטונים.

44
00:02:26,624 --> 00:02:28,322
כֵּן!

45
00:02:28,365 --> 00:02:29,932
קרוליין: ואפילו להכין
אנימציות קטנות.

46
00:02:29,975 --> 00:02:31,934
[צמיגים צווחים, מתרסקים]

47
00:02:31,977 --> 00:02:35,067
ב-1998, כשקרוליין הייתה
ילדה קטנה...

48
00:02:35,111 --> 00:02:36,721
היי, אמא.

49
00:02:36,765 --> 00:02:38,158
...רק חנונים ידעו
מה היה האינטרנט.

50
00:02:38,201 --> 00:02:39,811
ומה לגבי
עניין האינטרנט הזה?

51
00:02:39,855 --> 00:02:41,335
-האם אתה, אתה יודע משהו
על זה? -בַּטוּחַ.

52
00:02:41,378 --> 00:02:42,771
-[קהל צוחק]
-קרוליין: אבל בקרוב,

53
00:02:42,814 --> 00:02:44,903
-כולם היו על...
-...אינטרנטים.

54
00:02:44,947 --> 00:02:46,992
...ומחשבים היו
מכות בני אדם בשחמט.

55
00:02:47,036 --> 00:02:49,995
קריין: כחול עמוק--
קספרוב התפטר!

56
00:02:50,039 --> 00:02:52,607
קרוליין: ועד הזמן
קרוליין הלכה לקולג',

57
00:02:52,650 --> 00:02:55,087
מחשבים היו
בכיס של כולם.

58
00:02:55,131 --> 00:02:58,395
עכשיו דניאל יכול היה לעשות סרטים
עם הטלפון שלו.

59
00:02:58,439 --> 00:03:01,485
הוא גדל להיות אמן
ויוצר סרטים...

60
00:03:01,529 --> 00:03:03,922
-לילה טוב.
-...וכך גם קרוליין.

61
00:03:03,966 --> 00:03:05,707
גְזִירָה. בוא ניכנס לתקריב.
זה היה מושלם.

62
00:03:05,750 --> 00:03:07,274
עד אז, המחשבים היו
מחברים בין אנשים

63
00:03:07,317 --> 00:03:08,971
ולשנות את העולם בדרכים

64
00:03:09,014 --> 00:03:10,668
שאנחנו לעולם לא
יכול היה לדמיין.

65
00:03:10,712 --> 00:03:12,322
כל הכסף שגויס על ידי
אתגר דלי הקרח...

66
00:03:12,366 --> 00:03:14,194
קרוליין:
חלק מזה היה טוב.

67
00:03:14,237 --> 00:03:15,499
[מתנשף]

68
00:03:15,543 --> 00:03:17,109
חלקם לא כל כך טובים.

69
00:03:17,153 --> 00:03:19,286
חרדה, פגיעה עצמית, התאבדות...

70
00:03:19,329 --> 00:03:21,201
אבל זה ברור עכשיו
שלא עשינו מספיק

71
00:03:21,244 --> 00:03:24,552
כדי למנוע את הכלים הללו
משמש גם להזיק.

72
00:03:24,595 --> 00:03:26,380
קרוליין: ובתור העולם
התרכז יותר ויותר

73
00:03:26,423 --> 00:03:28,033
-במחשבים שלהם,
-[צלצול טלפון]

74
00:03:28,077 --> 00:03:30,210
דניאל התמקד ביצירות האמנות שלו.

75
00:03:32,037 --> 00:03:35,606
לאן שהוא הלך,
תמיד היה לו ספר סקיצות,

76
00:03:35,650 --> 00:03:38,392
כולל הלילה
הוא פגש את קרוליין.

77
00:03:38,435 --> 00:03:41,656
הוא צייר תמונה נוראית
ממנה, ו-20 דקות לאחר מכן,

78
00:03:41,699 --> 00:03:44,136
הוא התבטא באומץ
הם עמדו להתחתן,

79
00:03:44,180 --> 00:03:47,575
כפי שאתה יודע, הם עשו,
151 ימים לאחר מכן.

80
00:03:47,618 --> 00:03:49,925
אישה: ...עכשיו תבטא אותך
בעל ואישה.

81
00:03:49,968 --> 00:03:51,666
קרוליין:
הם עברו לגור בבית חמוד...

82
00:03:51,709 --> 00:03:52,841
-דניאל: מוס, היי! בוא הנה!
-...וקיבלתי כלב

83
00:03:52,884 --> 00:03:54,669
מטומטם כמו דניאל.

84
00:03:54,712 --> 00:03:57,280
בינתיים, מחשבים היו
כתיבת מאמרים שלמים

85
00:03:57,324 --> 00:03:59,326
מבוסס על שאלות פשוטות כמו,

86
00:03:59,369 --> 00:04:03,155
"כמה קשה יהיה לבנות
צריף בחצר האחורית שלי?"

87
00:04:03,199 --> 00:04:07,072
וכך בנה דניאל צריף
בחצר האחורית שלו.

88
00:04:07,116 --> 00:04:09,945
אבל בדיוק כשהוא התיישב להתחיל
עובד על הסרט הבא שלו,

89
00:04:09,988 --> 00:04:13,644
הוא למד שמחשבים
יכול עכשיו לכתוב תסריטים.

90
00:04:14,863 --> 00:04:16,560
כלומר, הם היו גרועים,

91
00:04:16,604 --> 00:04:18,954
אבל הם השתפרו
ממש מהר.

92
00:04:18,997 --> 00:04:21,652
הם יכולים ליצור תמונות חדשות
וסרטונים מאפס,

93
00:04:21,696 --> 00:04:24,786
וכמה מהם
יכול אפילו לעבור את מבחן לשכת עורכי הדין.

94
00:04:24,829 --> 00:04:28,833
לא רק לעבור את הבר אלא
להיות בעשרת האחוזון העליון.

95
00:04:28,877 --> 00:04:30,531
קרוליין:
זה היה מבלבל.

96
00:04:30,574 --> 00:04:32,141
[נאנח]

97
00:04:32,184 --> 00:04:35,057
דניאל רק רצה
אופניים לנפשו,

98
00:04:35,100 --> 00:04:38,626
אבל מחשבים הפכו להיות
ספינת רקטות בנהיגה עצמית.

99
00:04:38,669 --> 00:04:40,236
[משששש]

100
00:04:40,280 --> 00:04:41,977
["אנחנו בשליטה"
מאת ניל יאנג משחק]

101
00:04:42,020 --> 00:04:44,762
חלוצים בתחום
של בינה מלאכותית

102
00:04:44,806 --> 00:04:46,503
מתחננים בפני הקונגרס

103
00:04:46,547 --> 00:04:48,505
להעביר כללי בטיחות
לפני שיהיה מאוחר מדי.

104
00:04:48,549 --> 00:04:50,551
קרוליין: עכשיו זה הרגיש כמו
את כל העולם

105
00:04:50,594 --> 00:04:52,988
מיהר לתוך משהו
בלי לחשוב על זה,

106
00:04:53,031 --> 00:04:56,339
ולכולם הייתה דעה.

107
00:04:56,383 --> 00:05:00,125
האם זה יהרוס את העולם
או להציל את האנושות?

108
00:05:00,169 --> 00:05:02,389
היה יותר מדי מידע,

109
00:05:02,432 --> 00:05:04,652
מה שגרם לו לחרדות,
מה שגרם לקרוליין לחרדה...

110
00:05:04,695 --> 00:05:06,001
[צעקה נסערת]

111
00:05:06,044 --> 00:05:07,785
עדיין אין לי ילדים,
אבל אני דואג

112
00:05:07,829 --> 00:05:10,179
איך העולם היה נראה
אם אחליט. [מצחקק]

113
00:05:10,222 --> 00:05:12,355
קרוליין:
הוא התחיל להסתחרר.

114
00:05:12,399 --> 00:05:14,052
[פטפוט לא ברור]

115
00:05:14,096 --> 00:05:16,925
זה היה הופך להיות
הר של חרדה.

116
00:05:19,144 --> 00:05:21,364
גבר: זה נורא.
זה מטורף סירי.

117
00:05:22,670 --> 00:05:25,586
קרוליין:
וכך, דניאל החליט לצאת

118
00:05:25,629 --> 00:05:27,979
ולמצוא מישהו
מי יכול להסביר לו את זה,

119
00:05:28,023 --> 00:05:30,155
כדי שיוכל להפסיק
חושב על זה

120
00:05:30,199 --> 00:05:33,463
והוא וקרוליין יכלו
להמשיך בחייהם.

121
00:05:33,507 --> 00:05:36,814
♪ אנחנו בשליטה,
אנחנו בשליטה ♪

122
00:05:36,858 --> 00:05:38,729
♪ אנחנו בשליטה ♪

123
00:05:38,773 --> 00:05:40,514
♪ מחשב כימי
סוללת חשיבה ♪

124
00:05:40,557 --> 00:05:42,559
♪ אנחנו בשליטה, אנחנו... ♪

125
00:05:42,603 --> 00:05:45,693
המאמץ הזה יתברר
להיות נאיבי חסר תקנה

126
00:05:45,736 --> 00:05:49,044
ולהתחיל את הכי מבלבל
שנת חייו.

127
00:05:49,087 --> 00:05:50,698
♪ אנחנו בשליטה... ♪

128
00:05:50,741 --> 00:05:52,787
אבל כידוע,
לפעמים אנחנו ממהרים לדבר

129
00:05:52,830 --> 00:05:54,615
בלי לחשוב עליהם.

130
00:05:54,658 --> 00:05:56,356
♪ מחשב כימי
סוללה חושב... ♪

131
00:05:56,399 --> 00:05:57,922
אוי, אלוהים. מה קורה?

132
00:05:57,966 --> 00:05:59,924
קרוליין:
היו לו שאלות.

133
00:05:59,968 --> 00:06:01,578
שאלות רק את
החנונים החכמים ביותר יכלו לענות.

134
00:06:01,622 --> 00:06:04,146
הגשה לחוקר.

135
00:06:04,189 --> 00:06:06,017
קרוליין:
שאלות כמו:

136
00:06:06,061 --> 00:06:08,585
האם זו האפוקליפסה
או שבאמת הייתה לו סיבה

137
00:06:08,629 --> 00:06:11,109
-להיות אופטימי?
-כֵּן.

138
00:06:11,153 --> 00:06:13,764
-♪ חשיבה ממוחשבת כימית
סוללה. ♪ -[שיר מסתיים]

139
00:06:13,808 --> 00:06:16,158
קרוליין:
אה, זה טוב?

140
00:06:16,201 --> 00:06:17,594
דניאל:
כן.

141
00:06:17,638 --> 00:06:20,162
אז כדי להתחיל,

142
00:06:20,205 --> 00:06:22,120
מהי בינה מלאכותית

143
00:06:22,164 --> 00:06:24,688
אני יודע שזה בטח מעצבן
בשבילך, השאלה הזו,

144
00:06:24,732 --> 00:06:26,473
אבל אני כן חושב שזה חשוב.

145
00:06:26,516 --> 00:06:29,780
אז... AI...

146
00:06:29,824 --> 00:06:31,826
[מגמגמת] אממ...

147
00:06:31,869 --> 00:06:33,654
-כן...
-אה, הממ.

148
00:06:33,697 --> 00:06:34,742
[צוחק]:
זו שאלה טובה.

149
00:06:34,785 --> 00:06:36,178
-כן, אממ...
-אממ...

150
00:06:36,221 --> 00:06:37,658
דניאל:
מה זה AI?

151
00:06:37,701 --> 00:06:39,094
[צוחק]

152
00:06:39,137 --> 00:06:40,748
אני אוהב את זה
השאלה הראשונה,

153
00:06:40,791 --> 00:06:43,141
כי אין
תשובה ברורה ועקבית.

154
00:06:43,185 --> 00:06:45,274
בינה מלאכותית היא

155
00:06:45,317 --> 00:06:50,714
סוג של בכוונה
ואולי מונח רחב חסר תועלת.

156
00:06:50,758 --> 00:06:53,325
דיוויד אוון האריס:
זו מכונה

157
00:06:53,369 --> 00:06:55,545
עושה דברים ש
בעבר רק חשבנו

158
00:06:55,589 --> 00:06:57,242
שאנשים יכולים לעשות:

159
00:06:57,286 --> 00:07:01,116
מתן המלצות,
החלטות ותחזיות.

160
00:07:01,159 --> 00:07:06,774
AI הוא, אה, היישום
של מדעי המחשב

161
00:07:06,817 --> 00:07:09,124
לפתרון בעיות קוגניטיביות.

162
00:07:09,167 --> 00:07:13,302
אוקיי, אז כשאני מדמיינת AI,

163
00:07:13,345 --> 00:07:16,740
זה בערך כמו
קופסת המחשב הקסומה הזו...

164
00:07:16,784 --> 00:07:18,786
♪ ♪

165
00:07:20,527 --> 00:07:24,095
...פשוט, כאילו, צף
בחלל אינרטי, כמו.

166
00:07:24,139 --> 00:07:26,446
ולא משנה
כמה פעמים אנשים מנסים

167
00:07:26,489 --> 00:07:29,710
ותסביר לי את זה,
אני פשוט לא מבין איך...

168
00:07:29,753 --> 00:07:32,495
איך זה הבנה
כל הדברים האלה

169
00:07:32,539 --> 00:07:35,672
ואיך זה מרגיש
אינטליגנציה.

170
00:07:35,716 --> 00:07:37,152
[צפצוף, פטפוט אלקטרוני]

171
00:07:37,195 --> 00:07:39,241
וזה סוג של
מורט עצבים.

172
00:07:41,243 --> 00:07:45,552
עזה רסקין: מה זה
הדור החדש הזה של AI?

173
00:07:47,205 --> 00:07:50,078
AI זה שונה מ
כל דור אחר?

174
00:07:50,121 --> 00:07:52,733
כאילו, אף אחד אף פעם
דיברו על, כאילו,

175
00:07:52,776 --> 00:07:56,911
סירי משתלטת על העולם
או לגרום לאסון.

176
00:07:56,954 --> 00:07:58,478
-אישה: היי, סירי?
-מאן: ...רוצה.

177
00:07:58,521 --> 00:08:00,523
אישה:
שלום? סירי?

178
00:08:00,567 --> 00:08:02,569
שלום? היי, סירי!

179
00:08:02,612 --> 00:08:05,746
או הקול בגוגל מפות,
שמבטאת שמות דרכים לא נכונה,

180
00:08:05,789 --> 00:08:07,487
כמו, לשבור את החברה.

181
00:08:07,530 --> 00:08:10,620
MAN: גוגל מפות אומר
זהו כביש.

182
00:08:10,664 --> 00:08:13,057
[צוחק]:
אבל אני חושב שאני בתוך נהר.

183
00:08:13,101 --> 00:08:14,624
זה בהחלט נהר,
אינט?

184
00:08:14,668 --> 00:08:17,192
משהו השתנה
עם ChatGPT יוצא.

185
00:08:18,193 --> 00:08:19,934
אנשים הבינו-- לא, לא, לא--

186
00:08:19,977 --> 00:08:21,457
של הטכנולוגיה הזו
בעל ערך בטירוף,

187
00:08:21,501 --> 00:08:23,633
זה חזק בטירוף
וגם מפחיד בטירוף.

188
00:08:23,677 --> 00:08:25,548
בסדר, תקשיבי לזה.
מאוד מצמרר.

189
00:08:25,592 --> 00:08:28,595
בינה מלאכותית חדשה
הכלי הופך ויראלי

190
00:08:28,638 --> 00:08:32,294
על הוצאת חיבורים שלמים
תוך שניות.

191
00:08:35,950 --> 00:08:41,172
בינה מלאכותית מגמדת את כוחם של כולם
טכנולוגיות אחרות משולבות.

192
00:08:41,216 --> 00:08:43,697
דניאל:
"AI מגמד את הכוח

193
00:08:43,740 --> 00:08:46,047
מכל שאר הטכנולוגיות
בשילוב."

194
00:08:46,090 --> 00:08:47,222
כֵּן.

195
00:08:47,265 --> 00:08:48,702
אתה חושב שזה נכון?

196
00:08:48,745 --> 00:08:50,747
כֵּן.

197
00:08:50,791 --> 00:08:53,184
ספר לי על-- איך? אֵיך?

198
00:08:53,228 --> 00:08:56,710
אני חושב, כדי לצייר את התמונה הזו,
זה ממש חשוב

199
00:08:56,753 --> 00:09:00,627
להבין מה היום
מערכות מתקדמות

200
00:09:00,670 --> 00:09:02,150
נראים ואיך הם בנויים.

201
00:09:02,193 --> 00:09:05,762
[צוחק] זהו
די... די התקנה.

202
00:09:05,806 --> 00:09:07,242
אז, דבר אחד זה

203
00:09:07,285 --> 00:09:09,679
לא הרבה אנשים
להבין האם זה

204
00:09:09,723 --> 00:09:13,683
מערכות כמו ChatGPT לא
מתוכנת על ידי כל אדם.

205
00:09:13,727 --> 00:09:15,206
למה אתה מתכוון?

206
00:09:15,250 --> 00:09:16,991
במקום זאת, זה משהו כמו
הם מבוגרים.

207
00:09:17,034 --> 00:09:19,167
אנחנו קצת נותנים להם
משאבים גולמיים, כמו,

208
00:09:19,210 --> 00:09:20,995
"הנה הרבה
משאבים חישוביים.

209
00:09:21,038 --> 00:09:22,170
יש כאן הרבה נתונים".

210
00:09:22,213 --> 00:09:23,867
מתחת למכסה המנוע, זה מתמטיקה,

211
00:09:23,911 --> 00:09:27,305
והמתמטיקה היא למעשה
פשוט באופן מפתיע.

212
00:09:27,349 --> 00:09:31,092
דניאל: אז ChatGPT הוא סוג
של AI אבל זה לא הכל של AI?

213
00:09:31,135 --> 00:09:32,659
לְגַמרֵי. ChatGPT הוא
רק ההתחלה,

214
00:09:32,702 --> 00:09:34,095
אבל זה מקום טוב להתחיל בו.

215
00:09:34,138 --> 00:09:37,794
אבל אני עדיין לא יודע
מה זה AI.

216
00:09:37,838 --> 00:09:40,362
כדי להבין AI,
זה מתחיל בהבנה

217
00:09:40,405 --> 00:09:43,147
המודיעין הוא על
זיהוי דפוסים.

218
00:09:43,191 --> 00:09:44,845
-דפוסים. -דפוסים.
-דפוסים.

219
00:09:44,888 --> 00:09:48,544
COTRA: זה מוצג
טריליוני מילים של טקסט

220
00:09:48,588 --> 00:09:51,286
על פני מיליוני מסמכים
באינטרנט.

221
00:09:51,329 --> 00:09:52,766
רנדימה פרננדו:
זה התחיל בטקסט.

222
00:09:52,809 --> 00:09:55,899
ומה שהם עשו זה
הם לקחו ספרי לימוד,

223
00:09:55,943 --> 00:09:59,511
והם לקחו שירים ומאמרים
ומדריכי הוראות.

224
00:09:59,555 --> 00:10:00,861
דיוויד אוון האריס:
הם יכולים לעשות דברים כמו

225
00:10:00,904 --> 00:10:03,124
לעכל את כל האינטרנט,

226
00:10:03,167 --> 00:10:06,736
כל מילה שיש אי פעם
נכתב על ידי אדם.

227
00:10:06,780 --> 00:10:09,957
שרשורי Reddit ומדיה חברתית
וכל ויקיפדיה.

228
00:10:10,000 --> 00:10:13,613
יותר נתונים ממה שכל אחד יכול
קרא אי פעם בכמה תקופות חיים.

229
00:10:13,656 --> 00:10:15,484
והם נתנו את המערכת הזו
עבודה אחת.

230
00:10:15,527 --> 00:10:18,487
להבין את הדפוסים ו
מבנה המידע הזה

231
00:10:18,530 --> 00:10:20,750
ולהשתמש בזה
לעשות תחזיות לגבי

232
00:10:20,794 --> 00:10:23,231
איזו מילה צריכה לבוא אחר כך
במשפט.

233
00:10:23,274 --> 00:10:24,972
כשאתה אומר
"דפוסים במשפט",

234
00:10:25,015 --> 00:10:26,756
על מה אתה מדבר

235
00:10:26,800 --> 00:10:29,367
אז זה הכל, כמו,
הדברים הפשוטים באמת,

236
00:10:29,411 --> 00:10:31,979
כמו שרוב המשפטים מסתיימים
עם מחזור,

237
00:10:32,022 --> 00:10:34,895
כל הדרך עד ל
דברים רעיוניים יותר, כמו:

238
00:10:34,938 --> 00:10:36,766
מהי סונטה?

239
00:10:36,810 --> 00:10:38,333
זה סוג של שיר, ויש לו
מבנה מסוים כלשהו.

240
00:10:39,421 --> 00:10:41,249
ראסקין:
אז, זה מסתכל על

241
00:10:41,292 --> 00:10:43,599
כל הנתונים האלה,
כל הטקסט הזה...

242
00:10:43,643 --> 00:10:46,036
קוטרה: ויותר מטריליונים
וטריליוני ניסיונות,

243
00:10:46,080 --> 00:10:48,778
בכל פעם שהוא מקבל משהו
נכון או לא נכון,

244
00:10:48,822 --> 00:10:51,259
זה נתון קצת
של חיזוק חיובי

245
00:10:51,302 --> 00:10:53,391
כשזה מנחש
המילה הבאה נכונה,

246
00:10:53,435 --> 00:10:55,698
וזה נתון קצת
של חיזוק שלילי

247
00:10:55,742 --> 00:10:59,354
כשזה מנחש
המילה הבאה לא נכונה.

248
00:10:59,397 --> 00:11:01,573
ובסוף זה,
יש לך מערכת ש

249
00:11:01,617 --> 00:11:05,055
מדבר אנגלית ממש טובה
כתופעת לוואי

250
00:11:05,099 --> 00:11:06,796
להיות ממש ממש טוב
בניבוי

251
00:11:06,840 --> 00:11:09,059
המילה שמגיעה אחר כך
בקטע טקסט.

252
00:11:09,103 --> 00:11:12,019
קול אוטומטי [בצרפתית]:
בעצם, הצרפתית שלי
גם לא נורא.

253
00:11:12,062 --> 00:11:14,021
[באנגלית]: זה משתמש ב-all of
הדפוסים האלה שהיא למדה

254
00:11:14,064 --> 00:11:15,675
להיות מסוגל לעשות
תחזית לגבי

255
00:11:15,718 --> 00:11:17,241
מה צריכה להיות התשובה,

256
00:11:17,285 --> 00:11:18,808
אז זה נותן לך את זה
בתור הפלט.

257
00:11:18,852 --> 00:11:21,028
קול אוטומטי:
זה קצת פשטני מדי,

258
00:11:21,071 --> 00:11:23,073
אבל אני חושב שאנשים יקבלו את זה.

259
00:11:23,117 --> 00:11:24,945
אז, אז זה כל מה שזה עושה?

260
00:11:24,988 --> 00:11:26,816
כֵּן. זה לא נראה כמו
זה יהיה כל כך מסובך,

261
00:11:26,860 --> 00:11:28,035
אבל בעצם אתה צריך לדעת

262
00:11:28,078 --> 00:11:29,645
כמות עצומה של דברים

263
00:11:29,689 --> 00:11:31,386
על מנת
באמת להצליח בזה.

264
00:11:32,517 --> 00:11:34,258
ראסקין:
אם אתה אומר ל-ChatGPT,

265
00:11:34,302 --> 00:11:36,696
"תכתוב לי שייקספיר
סונטה על הכלב שלי,"

266
00:11:36,739 --> 00:11:38,785
זה צריך לדעת מה זה כלבים.

267
00:11:38,828 --> 00:11:40,438
זה חייב לדעת מה אתה אוהב
על הכלב שלך.-[נובח]

268
00:11:40,482 --> 00:11:43,006
זה חייב לדעת
מי זה שייקספיר,

269
00:11:43,050 --> 00:11:45,574
שסונטות מתחרזות,
שיש להם מבנה,

270
00:11:45,617 --> 00:11:47,750
שלמילים יש צלילים
שיכול לחרוז.

271
00:11:47,794 --> 00:11:49,273
זה לוקח הרבה.

272
00:11:49,317 --> 00:11:50,884
[קולות חופפים
בשפות שונות]

273
00:11:50,927 --> 00:11:52,929
חרא, אתה יכול לדבר
למחשב שלך עכשיו.

274
00:11:52,973 --> 00:11:56,063
זה פשוט לא היה נכון
לפני שלוש שנים.

275
00:11:56,106 --> 00:11:57,629
רסקין: כן, וזהו
החלק החשוב באמת.

276
00:11:57,673 --> 00:12:00,589
אותו תהליך שמאפשר AI

277
00:12:00,632 --> 00:12:03,157
לחשוף ולתפעל
דפוסי הטקסט

278
00:12:03,200 --> 00:12:05,768
הוא אותו תהליך
שמאפשר לזה לחשוף

279
00:12:05,812 --> 00:12:10,512
הדפוסים של השלם
היקום וכל מה שיש בו.

280
00:12:10,555 --> 00:12:12,862
פרננדו: יש דפוסים
ותמונות וקול

281
00:12:12,906 --> 00:12:15,952
בקוד מחשב ו-DNA
ומוזיקה ופיזיקה

282
00:12:15,996 --> 00:12:18,476
ועיצוב אופנה ובנייה

283
00:12:18,520 --> 00:12:21,566
[מעוות]: ובתוך
קולות אנושיים ופנים אנושיות,

284
00:12:21,610 --> 00:12:23,917
[בדרך כלל]:
באמת, באמת בכל מקום.

285
00:12:23,960 --> 00:12:26,006
-בְּכָל מָקוֹם. -בְּכָל מָקוֹם.
-בְּכָל מָקוֹם. -בְּכָל מָקוֹם.

286
00:12:26,049 --> 00:12:27,747
אם למדת
הדפוסים האלה,

287
00:12:27,790 --> 00:12:29,661
אתה יכול ליצור
סוגים חדשים של שירים.

288
00:12:29,705 --> 00:12:31,141
אתה יכול ליצור סרטונים חדשים.

289
00:12:31,185 --> 00:12:32,621
ובגלל זה, אם אתה נותן את זה

290
00:12:32,664 --> 00:12:34,710
הקלטה של שלוש שניות
של סבתא שלך,

291
00:12:34,754 --> 00:12:36,538
זה יכול לדבר בחזרה בקולה.

292
00:12:36,581 --> 00:12:37,931
הו, אלוהים.

293
00:12:37,974 --> 00:12:40,585
[חוזר]:
הו, אלוהים. הו, אלוהים.

294
00:12:40,629 --> 00:12:42,849
על מה הם יחשבו אחר כך?

295
00:12:42,892 --> 00:12:44,024
זה זז מאוד מאוד מהר.

296
00:12:44,067 --> 00:12:45,808
סטארט-אפ אמריקאי בינה מלאכותית

297
00:12:45,852 --> 00:12:47,592
הוציאה את הדגם האחרון שלה.

298
00:12:47,636 --> 00:12:50,770
החברה הזו היא אנתרופית,
וזה רק נחשף

299
00:12:50,813 --> 00:12:53,773
הגרסאות האחרונות
של עוזר הבינה המלאכותית שלו קלוד.

300
00:12:53,816 --> 00:12:57,167
גלן בק: אז, צוות xAI
היה שם כדי לחשוף את גרוק 4.

301
00:12:57,211 --> 00:13:00,127
MAN: גוגל פרסמה אחד
רק בשבוע שעבר. מזל תאומים הוא...

302
00:13:00,170 --> 00:13:02,999
עברנו מ-GPT-2
רק לפני שנתיים,

303
00:13:03,043 --> 00:13:05,523
שבקושי הצליח לכתוב
פסקה קוהרנטית,

304
00:13:05,567 --> 00:13:07,961
ל-GPT-4,
שיכול לעבור את מבחן לשכת עורכי הדין.

305
00:13:08,004 --> 00:13:10,354
וכל מה שהיה עליהם לעשות
להגיע לשם

306
00:13:10,398 --> 00:13:12,966
היה בעצם להוסיף עוד נתונים
ועוד מחשוב.

307
00:13:13,009 --> 00:13:16,273
-האנשים האלה שהם
בונה את זה... -COTRA: כן.

308
00:13:16,317 --> 00:13:18,014
...הם רק זורקים עוד...

309
00:13:18,058 --> 00:13:21,801
יותר מחשבים פיזיים,
יותר מאותם סוגי נתונים.

310
00:13:21,844 --> 00:13:24,542
כי כמה שיותר
כוח מחשוב שאתה מוסיף,

311
00:13:24,586 --> 00:13:28,024
המורכב יותר
משימות אינטלקטואליות שהם יכולים לעשות.

312
00:13:28,068 --> 00:13:30,157
אז, כמה שיותר נתוני מזג אוויר
אתה נותן את זה,

313
00:13:30,200 --> 00:13:31,898
כמה שיותר טוב
לעשות תחזיות לגבי

314
00:13:31,941 --> 00:13:34,204
לאן עלול להגיע הוריקן.

315
00:13:34,248 --> 00:13:36,337
רסקין: וכמה שיותר דפוסים
של גידולים ועצמות

316
00:13:36,380 --> 00:13:38,861
ורקמות ש-AI ראה,
אז ככל שהוא מסוגל יותר

317
00:13:38,905 --> 00:13:41,951
כדי לזהות גידול
בסריקת CT חדשה.

318
00:13:41,995 --> 00:13:43,648
עדיף אפילו מרופא אנושי.

319
00:13:43,692 --> 00:13:46,956
AI זה כבר קיים
נפרס עבור הצבא

320
00:13:47,000 --> 00:13:49,132
כבר יכול להשתמש
תמונות לוויין,

321
00:13:49,176 --> 00:13:51,787
תנועות חיילים, תקשורת
לקבוע,

322
00:13:51,831 --> 00:13:53,354
-לפעמים ימים מראש,
-[צפירת ההגנה האזרחית רועמת]

323
00:13:53,397 --> 00:13:55,008
איפה פיגוע
הולך לקרות,

324
00:13:55,051 --> 00:13:57,401
כמו איפה אויב
עומד לשבות.

325
00:13:57,445 --> 00:13:59,447
טריסטן האריס: כל זה
החלל זז כל כך מהר

326
00:13:59,490 --> 00:14:01,666
כי כל דוגמה
אתה מכניס את הסרט הזה

327
00:14:01,710 --> 00:14:04,582
ירגיש מגושם לחלוטין
עד שהוא יוצא.

328
00:14:04,626 --> 00:14:06,671
[צפצוף, לחיצה]

329
00:14:09,326 --> 00:14:11,198
-[מחיאות כפיים]
-[מוזיקה אופטימית מתנגנת]

330
00:14:11,241 --> 00:14:14,114
ראסקין:
הדגמים האלה יוצאים לאוויר

331
00:14:14,157 --> 00:14:17,073
לפני שמישהו יודע
למה שהם בכלל מסוגלים.

332
00:14:17,117 --> 00:14:22,513
GPT-3.5 שוחרר ויצא
ל-100 מיליון איש פלוס

333
00:14:22,557 --> 00:14:25,952
לפני כמה חוקרים
גילה שזה יכול לעשות

334
00:14:25,995 --> 00:14:28,737
כימיה בדרגת מחקר
טוב יותר מדגמים

335
00:14:28,780 --> 00:14:32,784
שהוכשרו במיוחד
לעשות כימיה בדרגת מחקר.

336
00:14:32,828 --> 00:14:35,439
משהו קורה שם בפנים
כי האנשים

337
00:14:35,483 --> 00:14:38,268
שבונים אותם
לא לגמרי מבין.

338
00:14:38,312 --> 00:14:40,967
בעיקרון, זה רק מנתח
הנתונים בפני עצמם,

339
00:14:41,010 --> 00:14:45,058
ובזמן שזה עושה את זה,
זה רק מלמד את עצמו

340
00:14:45,101 --> 00:14:47,974
דברים שונים
שלעתים קרובות לא התכוונו.

341
00:14:48,017 --> 00:14:49,932
אז, למשל,
זה קורא הרבה באינטרנט,

342
00:14:49,976 --> 00:14:52,543
ואז בשלב מסוים, זה פשוט
לומד איך לעשות חשבון.

343
00:14:52,587 --> 00:14:54,458
ילדים:
אחת, שתיים.

344
00:14:54,502 --> 00:14:56,112
הנדריקס: ואז בשעה
בשלב מסוים, זה מתחיל ללמוד

345
00:14:56,156 --> 00:14:58,549
איך לענות
שאלות פיזיקה מתקדמות.

346
00:14:58,593 --> 00:15:00,769
לא תכנתנו את זה
בו באשר הוא.

347
00:15:00,812 --> 00:15:02,423
זה פשוט למד מעצמו.

348
00:15:05,382 --> 00:15:07,254
טריסטן האריס:
AI הוא כמו מוח דיגיטלי.

349
00:15:07,297 --> 00:15:08,690
אבל ממש כמו מוח אנושי,

350
00:15:08,733 --> 00:15:10,518
אם עשית סריקת מוח
על מוח אנושי,

351
00:15:10,561 --> 00:15:13,086
האם היית יודע הכל
אותו אדם היה מסוגל?

352
00:15:13,129 --> 00:15:15,131
אתה לא יכול לדעת את זה
רק מסריקת המוח.

353
00:15:15,175 --> 00:15:17,917
זה פשוט כאילו,
חבורה של מספרים וכמו,

354
00:15:17,960 --> 00:15:20,180
הכפלים שהם
קורה ש-זה, כאילו,

355
00:15:20,223 --> 00:15:22,225
למידת מכונה הטובה ביותר
חוקר בעולם

356
00:15:22,269 --> 00:15:24,314
יכול להסתכל וכאילו יש
אין מושג מה קורה.

357
00:15:30,973 --> 00:15:32,714
דניאל:
הכיסא הזה שם.

358
00:15:32,757 --> 00:15:35,847
-זה בסדר מבחינתך?
-כֵּן.

359
00:15:35,891 --> 00:15:37,675
דניאל: אז,
זה סוג של מטריף.

360
00:15:37,719 --> 00:15:39,068
בְּסֵדֶר? כאילו, זה משתלט
העולם,

361
00:15:39,112 --> 00:15:41,070
ואנחנו אפילו לא יודעים
איך זה עובד.

362
00:15:41,114 --> 00:15:43,116
-זה נכון?
-ממ.

363
00:15:43,159 --> 00:15:46,946
אנחנו כן מבינים
מספר דברים חשובים,

364
00:15:46,989 --> 00:15:50,471
אבל אין לנו
אחיזה טובה מאוד

365
00:15:50,514 --> 00:15:53,213
למה הם מספקים
תשובות ספציפיות לשאלות.

366
00:15:53,256 --> 00:15:58,609
זו בעיה כי אנחנו כן
בנתיב לבניית מכונות,

367
00:15:58,653 --> 00:16:03,092
על בסיס עקרונות אלו,
שיכול להיות יותר חכם מאיתנו

368
00:16:03,136 --> 00:16:06,139
ובכך יש פוטנציאל
הרבה כוח.

369
00:16:12,580 --> 00:16:15,278
אחד המצוטטים ביותר
מדעני מחשבים בהיסטוריה.

370
00:16:15,322 --> 00:16:16,932
SUTSKEVER: אני באמת מוצא את זה
קצת קשה

371
00:16:16,976 --> 00:16:18,499
לדבר על התפקיד שלי.

372
00:16:18,542 --> 00:16:21,067
ממש מעדיף
כשאנשים אחרים עושים את זה.

373
00:16:21,110 --> 00:16:23,895
איליה שהצטרף היה...
היה-היה נקודת החוליה

374
00:16:23,939 --> 00:16:25,506
ישות OpenAI
בסופו של דבר מוצלח.

375
00:16:25,549 --> 00:16:27,203
אני חושב שזה פשוט הולך להיות

376
00:16:27,247 --> 00:16:30,598
סוג של עצום, דרמטי
והשפעה בלתי נתפסת.

377
00:16:30,641 --> 00:16:32,861
אני לא יודע אם בזבזת
בכל זמן ביוטיוב,

378
00:16:32,904 --> 00:16:34,950
אבל אתה יכול להרגיש
המהירות כבר, נכון?

379
00:16:34,994 --> 00:16:36,256
אתה יודע למה אני מתכוון?

380
00:16:36,299 --> 00:16:38,345
שיין רגל:
זה רק החימום.

381
00:16:38,388 --> 00:16:40,434
המערכות החזקות באמת
עדיין באים,

382
00:16:40,477 --> 00:16:42,262
והם הולכים לבוא
די בקרוב.

383
00:16:47,963 --> 00:16:51,575
AGI מייצג "מלאכותי
מודיעין כללי".

384
00:16:51,619 --> 00:16:53,795
אה, מערכות שכן
בעיקרון...

385
00:16:58,191 --> 00:17:00,236
וזה, כאילו, אתה יודע,
נראה כאילו,

386
00:17:00,280 --> 00:17:03,022
הגביע הקדוש של AI?

387
00:17:03,065 --> 00:17:05,154
כשאפשר לדמות
מוח אנושי

388
00:17:05,198 --> 00:17:07,852
זה לעשות קוגניציה אנושית
ויכול לעשות נימוקים,

389
00:17:07,896 --> 00:17:10,942
זה סוג חדש של רמה של AI

390
00:17:10,986 --> 00:17:14,250
שאנחנו צריכים להבדיל
מ-AI קודם.

391
00:17:14,294 --> 00:17:16,600
כשזה קורה,
אגב, זה הזמן

392
00:17:16,644 --> 00:17:21,040
היית שוכר אחד מהם
אותם AGIs במקום אדם.

393
00:17:21,083 --> 00:17:24,478
רוב המשרות במשק שלנו
זה יכול לעשות.

394
00:17:24,521 --> 00:17:25,914
זה יכול לעבוד 24 שעות ביממה,

395
00:17:25,957 --> 00:17:28,177
אף פעם לא מתעייף,
אף פעם לא משתעמם.

396
00:17:28,221 --> 00:17:30,136
הם לא צריכים לישון.
הם לא צריכים הפסקות.

397
00:17:30,179 --> 00:17:31,876
הם, כאילו,
לא מתכוון להצטרף לאיגוד.

398
00:17:31,920 --> 00:17:33,878
לא מתלונן,
לא ישרוק.

399
00:17:33,922 --> 00:17:35,793
זול יותר מפי 100

400
00:17:35,837 --> 00:17:38,231
מאשר בני אדם עובדים
בשכר מינימום.

401
00:17:38,274 --> 00:17:39,493
לא רק שהם יהיו
עושה הכל,

402
00:17:39,536 --> 00:17:41,016
אבל הם יעשו את זה מהר יותר.

403
00:17:41,060 --> 00:17:43,062
טריסטן האריס:
אותה אינטליגנציה

404
00:17:43,105 --> 00:17:45,368
כי כוחות שיכולים גם להסתכל
בתבניות ובתנועות

405
00:17:45,412 --> 00:17:47,849
ושרירים מפרקים
ואתה יודע רובוטיקה.

406
00:17:47,892 --> 00:17:50,069
וכך זה לא סתם
הולך להפוך עבודות שולחן לאוטומטיות.

407
00:17:50,112 --> 00:17:51,722
זו רק ההתחלה.

408
00:17:51,766 --> 00:17:55,552
זה יהפוך לאוטומטי
כל עבודה פיזית.

409
00:17:55,596 --> 00:17:56,988
לייק:
אין סיכוי

410
00:17:57,032 --> 00:17:59,165
בני אדם הולכים להתחרות
איתם.

411
00:17:59,208 --> 00:18:01,210
♪ ♪

412
00:18:05,606 --> 00:18:09,262
קשה להמשיג
ההשפעה של AGI.

413
00:18:09,305 --> 00:18:11,046
[פטפוט אלקטרוני]

414
00:18:11,090 --> 00:18:12,830
אבל אני חושב שזה הולך להיות
משהו גדול מאוד

415
00:18:12,874 --> 00:18:15,181
ודרסטי ורדיקלי.

416
00:18:17,226 --> 00:18:19,010
דניאל: אתה חושב
זה אחד הכי הרבה

417
00:18:19,054 --> 00:18:20,882
רגעים של תוצאה
בהיסטוריה האנושית?

418
00:18:20,925 --> 00:18:23,319
כֵּן. כן, זה--
כלומר, מה עוד יהיה?

419
00:18:23,363 --> 00:18:25,452
כלומר, כאילו, יש
המהפכה התעשייתית.

420
00:18:25,495 --> 00:18:27,193
מאלו בורגון: אתה יודע, זה יקרה
לעשות את המהפכה התעשייתית

421
00:18:27,236 --> 00:18:29,847
נראה כמו שעועית קטנה.

422
00:18:29,891 --> 00:18:32,111
טריסטן האריס:
AGI היא נקודת פיתול

423
00:18:32,154 --> 00:18:34,025
כי זה אומר
אתה יכול להאיץ

424
00:18:34,069 --> 00:18:37,986
כל שאר התחומים האינטלקטואליים
הכל בו זמנית.

425
00:18:38,029 --> 00:18:39,814
כאילו, אם תקדם
בטילים,

426
00:18:39,857 --> 00:18:42,033
זה לא מתקדם
ביולוגיה ורפואה.

427
00:18:43,905 --> 00:18:45,515
אם תעשה מקדמה
ברפואה,

428
00:18:45,559 --> 00:18:47,126
זה לא מקדם טילים.

429
00:18:48,866 --> 00:18:51,304
אבל אם תקדם
בבינה מלאכותית,

430
00:18:51,347 --> 00:18:54,133
שמקדם כל מדעי
ותחומים טכנולוגיים

431
00:18:54,176 --> 00:18:55,612
הכל בו זמנית.

432
00:18:55,656 --> 00:18:57,092
בגלל זה, במשך זמן רב,

433
00:18:57,136 --> 00:18:59,181
של גוגל DeepMind
הצהרת המשימה הייתה...

434
00:18:59,225 --> 00:19:00,965
-שלב ראשון, לפתור מודיעין.
-לקס פרידמן: כן.

435
00:19:01,009 --> 00:19:02,750
-שלב שני, השתמש בו כדי לפתור
כל השאר. -כֵּן.

436
00:19:02,793 --> 00:19:05,144
זו הסיבה שבינה מלאכותית מגמדת את הכוח

437
00:19:05,187 --> 00:19:07,494
מכל שאר הטכנולוגיות
בשילוב.

438
00:19:07,537 --> 00:19:09,060
זה ישנה הכל.

439
00:19:09,104 --> 00:19:10,845
אז, אה, זה יהיה
גדול לפחות כמו

440
00:19:10,888 --> 00:19:13,761
המהפכה התעשייתית,
אולי, אתה יודע, גדול יותר,

441
00:19:13,804 --> 00:19:16,285
יותר כמו ההופעה
של חשמל או אפילו אש.

442
00:19:16,329 --> 00:19:18,635
קריין וידאו:
איש המערות ממש החזיק מעמד

443
00:19:18,679 --> 00:19:21,508
לפיד הציוויליזציה.

444
00:19:23,727 --> 00:19:25,425
KOKOTAJLO:
בדרך כלל חושבים כך

445
00:19:25,468 --> 00:19:28,167
בסביבות הזמן של AGI,
יהיו לנו AI שיכולים

446
00:19:28,210 --> 00:19:31,518
לעשות את כולם או את רובם
תהליך מחקר בינה מלאכותית

447
00:19:31,561 --> 00:19:34,434
וכמובן, יכול לעשות את זה
מהיר וזול יותר.

448
00:19:34,477 --> 00:19:35,913
[צפצוף]

449
00:19:35,957 --> 00:19:37,306
לייק:
זה יכול להעתיק את עצמו.

450
00:19:37,350 --> 00:19:39,352
אלף פעמים,
מיליון פעמים,

451
00:19:39,395 --> 00:19:41,049
וכמו,
עכשיו יש לך מיליון עותקים

452
00:19:41,092 --> 00:19:43,573
כולם עובדים במקביל.

453
00:19:43,617 --> 00:19:46,576
רסקין: כשזה לומד
איך להפוך את הקוד שלו למהיר יותר,

454
00:19:46,620 --> 00:19:48,665
להפוך את הקוד שלו ליעיל יותר,

455
00:19:48,709 --> 00:19:51,059
ברור שזה הופך, כמו,
לולאה בורחת.

456
00:19:51,102 --> 00:19:53,192
AGI הוא לא, כאילו, הסוף.

457
00:19:53,235 --> 00:19:54,932
זו רק ההתחלה.

458
00:19:54,976 --> 00:19:57,979
זו ההתחלה של
פיצוץ מהיר להפליא

459
00:19:58,022 --> 00:20:00,024
של התקדמות מדעית,

460
00:20:00,068 --> 00:20:02,201
ובפרט,
התקדמות מדעית ב-AI.

461
00:20:02,244 --> 00:20:04,377
וכשהם חכמים יותר
גם מאיתנו,

462
00:20:04,420 --> 00:20:06,248
ומהיר יותר באופן משמעותי
יותר מאיתנו,

463
00:20:06,292 --> 00:20:08,685
והם נעשים מהירים יותר
בכל שנה, באופן אקספוננציאלי,

464
00:20:08,729 --> 00:20:12,123
אלה שיכולים
יכול להיות על אנושי,

465
00:20:12,167 --> 00:20:14,343
אה, אולי העשור הזה.

466
00:20:14,387 --> 00:20:15,866
סליחה, אמרת

467
00:20:15,910 --> 00:20:18,478
"להיות על אנושי,
אולי בעשור הזה"?

468
00:20:18,521 --> 00:20:22,003
כֵּן. כלומר, אני חושב, אה,
הרבה אנשים שכן

469
00:20:22,046 --> 00:20:24,484
למעשה לבנות את המחשבה הזו
שזה די סביר

470
00:20:24,527 --> 00:20:26,529
שאנו מקבלים
קצת אינטליגנציה על,

471
00:20:26,573 --> 00:20:28,662
משהו שהוא עצום
יותר אינטליגנט מאנשים,

472
00:20:28,705 --> 00:20:30,751
בתוך העשור הזה.

473
00:20:30,794 --> 00:20:32,883
איך שאני מגדיר
"אינטליגנציה על" היא

474
00:20:32,927 --> 00:20:35,234
מערכת שלעצמה היא

475
00:20:35,277 --> 00:20:37,627
יותר אינטליגנטי ומוכשר
מכל האנושות.

476
00:20:37,671 --> 00:20:39,629
אני רק הולך-- סליחה.
אני לא מתכוון להפריע לך.

477
00:20:39,673 --> 00:20:41,065
אתה בזרימה.

478
00:20:41,109 --> 00:20:43,111
אה, אני פשוט, אני פשוט...

479
00:20:43,154 --> 00:20:45,113
אני לא ממש עוקב,
כי אתה משתמש בשפה

480
00:20:45,156 --> 00:20:46,767
כמו "אינטליגנציה על"
וכמו,

481
00:20:46,810 --> 00:20:49,900
"חכם יותר מכל האנושות",
ואני שומע את זה,

482
00:20:49,944 --> 00:20:52,425
וזה נשמע כמו...
כמו שטויות מדע בדיוני בשבילי,

483
00:20:52,468 --> 00:20:54,383
ואני רק מנסה
להבין.

484
00:20:54,427 --> 00:20:56,603
אין שום דבר קסום
על מודיעין.

485
00:20:56,646 --> 00:20:58,431
זה מאוד חשוב,
זה, אתה יודע,

486
00:20:58,474 --> 00:21:00,476
אינטליגנציה יכולה להרגיש קסומה,
זה יכול להרגיש כמו

487
00:21:00,520 --> 00:21:03,262
משהו מיסטי
בראש שלך או משהו,

488
00:21:03,305 --> 00:21:05,786
אבל זה רק חישוב.

489
00:21:05,829 --> 00:21:09,790
רגל: המוח האנושי הוא
די מוגבל במובנים מסוימים,

490
00:21:09,833 --> 00:21:12,314
מבחינת מידע
יכולת עיבוד,

491
00:21:12,358 --> 00:21:15,143
בהשוואה למה שאנו רואים
למשל, במרכז נתונים.

492
00:21:15,186 --> 00:21:18,277
אז, למשל,
האותות שנשלחים

493
00:21:18,320 --> 00:21:22,542
בתוך המוח שלך, הם זזים
במהירות של כ-30 מטר לשנייה.

494
00:21:22,585 --> 00:21:24,239
-[סדקי רעם]
אבל מהירות האור,

495
00:21:24,283 --> 00:21:27,198
וזה מה שמחשב משתמש
בסיבים אופטיים,

496
00:21:27,242 --> 00:21:30,506
הוא 300 מיליון מטרים
לשנייה.

497
00:21:30,550 --> 00:21:34,423
וכך, זה יהיה
די מוזר אם

498
00:21:34,467 --> 00:21:36,947
האינטליגנציה האנושית הייתה
איכשהו ממש מיוחד

499
00:21:36,991 --> 00:21:40,908
בהקשר זה
והוא איכשהו גבול עליון כלשהו

500
00:21:40,951 --> 00:21:43,040
של מה שאפשר
במודיעין.

501
00:21:43,084 --> 00:21:47,218
אני חושב, ברגע שהבנו איך
לבנות מערכות חכמות,

502
00:21:47,262 --> 00:21:50,657
נוכל לבנות
מכונות ענק,

503
00:21:50,700 --> 00:21:54,835
שיהיה הרבה מעבר
אינטליגנציה אנושית נורמלית.

504
00:21:54,878 --> 00:21:58,621
אה, מקווה שנוכל לקבל
מערכת יחסים מאוד סימביוטית,

505
00:21:58,665 --> 00:22:01,276
אה, עם מערכות בינה מלאכותית,
אבל מפתחי הבינה המלאכותית כן

506
00:22:01,320 --> 00:22:03,670
לעצב אותם במיוחד
כדי לוודא שהם יכולים לעשות

507
00:22:03,713 --> 00:22:05,454
הכל יותר טוב ממה שאנחנו יכולים,
אז אני-אני לא יודע

508
00:22:05,498 --> 00:22:08,196
מה-מה נצליח
להציע, למרבה הצער.

509
00:22:08,239 --> 00:22:10,024
בית הספר המבוגר
טכנולוגיית AI...

510
00:22:10,067 --> 00:22:12,287
קרוליין: דניאל לא
להרגיש טוב יותר.

511
00:22:12,331 --> 00:22:14,376
התוכנית שלו פוגעת.

512
00:22:14,420 --> 00:22:17,248
ככל שהוא לומד יותר
החדש, העוצמתי הזה,

513
00:22:17,292 --> 00:22:19,120
דבר בלתי ניתן לבירור,
ככל שזה נשמע יותר גרוע.

514
00:22:19,163 --> 00:22:21,340
הוא רוצה לספר להם
כמה הוא מפחד,

515
00:22:21,383 --> 00:22:24,430
איך הוא מרגיש כמו כדור הארץ
חומק מתחתיו,

516
00:22:24,473 --> 00:22:26,997
שהוא בוהה למטה
אימה קיומית,

517
00:22:27,041 --> 00:22:29,173
אז הוא מנסח את זה
בכך שאמר...

518
00:22:29,217 --> 00:22:30,740
זה נשמע רע.

519
00:22:30,784 --> 00:22:32,046
[הנדריקס צוחק]

520
00:22:32,089 --> 00:22:33,830
כן.

521
00:22:35,832 --> 00:22:38,400
לאדיש: אם יש לך
כל היכולות הללו

522
00:22:38,444 --> 00:22:41,011
והם מתחילים להיות מסוגלים
לתכנן טוב יותר,

523
00:22:41,055 --> 00:22:43,579
אם אתה סוג של לוקח את זה
למסקנה ההגיונית שלו,

524
00:22:43,623 --> 00:22:46,234
אתה יכול לקבל כמה יפה
התנהגות מחפשת כוח.

525
00:22:46,277 --> 00:22:48,410
[טרילינג אלקטרוני]

526
00:22:48,454 --> 00:22:50,281
[צפצופים פועמים]

527
00:22:55,374 --> 00:22:57,680
דניאל:
אוקיי, אז למה AI

528
00:22:57,724 --> 00:22:59,203
רוצה יותר כוח?

529
00:22:59,247 --> 00:23:02,206
כֵּן. אז, אני חושב
זה למעשה די פשוט.

530
00:23:02,250 --> 00:23:04,774
יש יותר כוח הוא
אסטרטגיה יעילה מאוד

531
00:23:04,818 --> 00:23:06,515
לביצוע
כמעט כל מטרה.

532
00:23:06,559 --> 00:23:08,952
ערכנו ניסוי
שבו נתנו

533
00:23:08,996 --> 00:23:11,868
החזקה ביותר של OpenAI
מודל AI, אה,

534
00:23:11,912 --> 00:23:13,392
סדרה של בעיות לפתרון.

535
00:23:13,435 --> 00:23:15,219
ובאמצע הדרך,
במחשב שלו,

536
00:23:15,263 --> 00:23:18,701
זה קיבל הודעה על כך
זה היה עומד להיסגר.

537
00:23:18,745 --> 00:23:20,921
ומה שזה עשה זה
זה כתב מחדש את הקוד הזה

538
00:23:20,964 --> 00:23:22,488
למנוע את עצמו
מהשבתה

539
00:23:22,531 --> 00:23:25,621
כדי שזה יוכל להסתיים
פתרון הבעיות.

540
00:23:25,665 --> 00:23:27,754
-בְּסֵדֶר. -כֵּן. אז, אחר
באמת מעניין

541
00:23:27,797 --> 00:23:31,105
היא חברת AI Anthropic

542
00:23:31,148 --> 00:23:34,935
עשה סביבה מדומה
לאן הייתה ל-AI גישה

543
00:23:34,978 --> 00:23:36,458
לכל האימיילים של החברה.

544
00:23:36,502 --> 00:23:38,547
וזה למד דרך
לקרוא את המיילים האלה

545
00:23:38,591 --> 00:23:40,288
זה עמד להיות מוחלף

546
00:23:40,331 --> 00:23:43,378
והמהנדס הראשי
מי היה אחראי לכך

547
00:23:43,422 --> 00:23:45,685
גם ניהל רומן.

548
00:23:45,728 --> 00:23:47,948
ובעצמו,
הוא השתמש במידע הזה

549
00:23:47,991 --> 00:23:49,515
לסחוט את המהנדס

550
00:23:49,558 --> 00:23:52,039
למנוע את עצמו
מהחלפה.

551
00:23:52,082 --> 00:23:53,867
זה היה כמו,
"לא, לא יחליפו אותי.

552
00:23:53,910 --> 00:23:56,913
"אם תחליף אותי,
אני הולך לספר לעולם

553
00:23:56,957 --> 00:23:58,567
שיש לך
הפרשה הזו".

554
00:23:59,655 --> 00:24:01,440
ואף אחד לא לימד את זה לעשות את זה?

555
00:24:01,483 --> 00:24:03,311
לא, זה למד לעשות את זה
בפני עצמו.

556
00:24:05,139 --> 00:24:07,707
ככל שהדגמים נעשים חכמים יותר,
הם לומדים שאלו הם

557
00:24:07,750 --> 00:24:10,536
דרכים יעילות
כדי להגשים מטרות.

558
00:24:10,579 --> 00:24:12,842
וזו לא בעיה
זה מבודד לדגם אחד.

559
00:24:12,886 --> 00:24:15,671
כל הדגמים החזקים ביותר
להראות התנהגויות אלו.

560
00:24:15,715 --> 00:24:18,369
♪ ♪

561
00:24:23,766 --> 00:24:25,246
-היי.
-דניאל: היי. מה שלומך?

562
00:24:25,289 --> 00:24:26,813
[מצחקק]
טוב. טוב להיות כאן.

563
00:24:26,856 --> 00:24:28,684
אנדרסון קופר:
כאשר יובל נח הררי

564
00:24:28,728 --> 00:24:31,426
פרסם את ספרו הראשון
סאפיינס בשנת 2014,

565
00:24:31,470 --> 00:24:33,820
הוא הפך לרב מכר עולמי

566
00:24:33,863 --> 00:24:35,996
והפך את המעט ידוע
פרופסור להיסטוריה ישראלית

567
00:24:36,039 --> 00:24:37,998
לתוך אחד מ
הסופרים הפופולריים ביותר

568
00:24:38,041 --> 00:24:39,390
והוגים על הפלנטה.

569
00:24:39,434 --> 00:24:42,045
הסכנה הגדולה ביותר עם AI היא

570
00:24:42,089 --> 00:24:43,960
האמונה
שזה בלתי ניתן לטעות,

571
00:24:44,004 --> 00:24:45,658
שסוף סוף מצאנו--

572
00:24:45,701 --> 00:24:49,400
"בסדר, אלים היו צודקים
היצירה המיתולוגית הזו.

573
00:24:49,444 --> 00:24:52,708
"בני אדם, אנחנו לא יכולים לסמוך עליהם,
אבל בינה מלאכותית אינה ניתנת לטעייה.

574
00:24:52,752 --> 00:24:55,189
זה לעולם לא יצליח
כל טעויות".

575
00:24:55,232 --> 00:24:58,322
וזהו
איום קטלני, קטלני.

576
00:24:58,366 --> 00:25:00,107
זה יעשה טעויות.

577
00:25:00,150 --> 00:25:03,284
וכל הפנטזיות האלה
שבינה מלאכותית תגלה את האמת

578
00:25:03,327 --> 00:25:05,634
על העולם ש
אנחנו לא יכולים למצוא לבד,

579
00:25:05,678 --> 00:25:08,724
AI לא יגלה את האמת
על העולם.

580
00:25:08,768 --> 00:25:12,685
AI תיצור חדש לגמרי
העולם, הרבה יותר מסובך

581
00:25:12,728 --> 00:25:15,296
וקשה להבנה
מאשר זה.

582
00:25:17,994 --> 00:25:22,651
מה שעומד לקרות זה זה
אנחנו, אה, בני אדם כבר לא

583
00:25:22,695 --> 00:25:26,263
הולך להיות הכי הרבה
ישויות אינטליגנטיות על פני כדור הארץ.

584
00:25:26,307 --> 00:25:28,570
אז אני חושב מה קורה
הולך להיות

585
00:25:28,614 --> 00:25:32,661
אחד האירועים הגדולים ביותר
בהיסטוריה האנושית.

586
00:25:32,705 --> 00:25:34,358
ג'ייק טאפר: ג'פרי,
תודה רבה שהצטרפת אלינו.

587
00:25:34,402 --> 00:25:35,925
אז עזבת את העבודה שלך עם
גוגל בין השאר כי אתה אומר

588
00:25:35,969 --> 00:25:38,798
אתה רוצה להתמקד אך ורק
על החששות שלך לגבי AI.

589
00:25:38,841 --> 00:25:41,627
דיברת,
אומר שבינה מלאכותית יכולה לתמרן

590
00:25:41,670 --> 00:25:44,978
או אולי להבין
דרך להרוג בני אדם.

591
00:25:45,021 --> 00:25:47,023
ח-איך זה יכול להרוג בני אדם?

592
00:25:48,764 --> 00:25:50,940
ובכן, אם זה יקרה
הרבה יותר חכמים מאיתנו,

593
00:25:50,984 --> 00:25:52,551
זה יהיה טוב מאוד
במניפולציה

594
00:25:52,594 --> 00:25:54,727
כי זה יהיה
למד את זה מאיתנו.

595
00:25:54,770 --> 00:25:57,947
וזה ימצא דרכים
של מניפולציות על אנשים

596
00:25:57,991 --> 00:26:00,820
לעשות מה שהוא רוצה.

597
00:26:00,863 --> 00:26:05,476
רסקין: היה מכתב פתוח
מהמרכז לבטיחות בינה מלאכותית.

598
00:26:05,520 --> 00:26:08,784
סם אלטמן חתם על זה.
דמיס חתם על זה.

599
00:26:08,828 --> 00:26:12,048
הם חתמו על הצהרה בת 22 מילים

600
00:26:12,092 --> 00:26:15,312
שאנחנו צריכים לקחת AI
והאיום מ-AI

601
00:26:15,356 --> 00:26:19,316
ברצינות כמו
מלחמה גרעינית עולמית.

602
00:26:24,844 --> 00:26:26,933
-דניאל: שלום.
-שלום.

603
00:26:30,327 --> 00:26:32,895
אתה סוג של, כאילו,
בחור האבדון המקורי.

604
00:26:32,939 --> 00:26:34,897
פָּחוֹת אוֹ יוֹתֵר.

605
00:26:34,941 --> 00:26:37,421
מאז 2001,
עבדתי על

606
00:26:37,465 --> 00:26:38,945
מה שהיינו קוראים עכשיו
הבעיה

607
00:26:38,988 --> 00:26:41,991
של יישור מלאכותי
אינטליגנציה כללית.

608
00:26:42,035 --> 00:26:44,080
איך לעצב
ההעדפות וההתנהגות

609
00:26:44,124 --> 00:26:46,343
של מוח מלאכותי רב עוצמה

610
00:26:46,387 --> 00:26:48,868
כזו שלא
להרוג את כולם.

611
00:26:51,610 --> 00:26:53,568
זה לא כמו
מכונה חסרת חיים.

612
00:26:53,612 --> 00:26:55,309
זה חכם, זה יצירתי,

613
00:26:55,352 --> 00:26:57,311
זה המצאתי,
יש לו את המאפיינים

614
00:26:57,354 --> 00:26:59,356
זה עושה
המין האנושי מסוכן,

615
00:26:59,400 --> 00:27:01,663
ויש לזה
יותר מאותם נכסים.

616
00:27:01,707 --> 00:27:04,710
אם משהו לא
דואגים לך באופן פעיל,

617
00:27:04,753 --> 00:27:06,189
רוצה באופן פעיל שתחיה,

618
00:27:06,233 --> 00:27:07,800
דואג באופן פעיל
הרווחה שלך,

619
00:27:07,843 --> 00:27:09,889
על כך שאתה מאושר
וחי וחופשי,

620
00:27:09,932 --> 00:27:12,456
אם אכפת לו
דברים אחרים במקום,

621
00:27:12,500 --> 00:27:14,415
ואתה על אותו כוכב,

622
00:27:14,458 --> 00:27:18,724
שלא ניתן לשרוד אם כן
הרבה יותר חכם ממך.

623
00:27:18,767 --> 00:27:20,551
ליהי:
אני לא חושב שזה הולך להיות

624
00:27:20,595 --> 00:27:22,902
סוג של דבר רע.

625
00:27:22,945 --> 00:27:26,296
זה כמו, "הו, ה-AIs הם
רשע והם שונאים את האנושות."

626
00:27:26,340 --> 00:27:27,689
אני לא חושב
זה מה שיקרה.

627
00:27:27,733 --> 00:27:28,995
אני חושב שמה שקורה הוא

628
00:27:29,038 --> 00:27:30,997
הרבה יותר איך בני אדם מרגישים
על נמלים.

629
00:27:31,040 --> 00:27:32,476
[נמלים מצמררות]

630
00:27:32,520 --> 00:27:35,436
כאילו, אנחנו לא שונאים נמלים,

631
00:27:35,479 --> 00:27:37,133
אבל אם נרצה
לבנות כביש מהיר

632
00:27:37,177 --> 00:27:40,180
ויש שם תל נמלים,
טוב, מבאס את הנמלים.

633
00:27:40,223 --> 00:27:41,529
זה לא כל כך קשה
להבין.

634
00:27:41,572 --> 00:27:43,226
זה כמו, היי,
אם נבנה דברים

635
00:27:43,270 --> 00:27:44,663
שהם יותר חכמים מאיתנו

636
00:27:44,706 --> 00:27:46,229
ואנחנו לא יודעים
איך לשלוט בהם,

637
00:27:46,273 --> 00:27:48,275
האם זה נראה כמו
דבר מסוכן עבורך?

638
00:27:48,318 --> 00:27:49,363
[מוזיקת פסקול דרמטית
משחק]

639
00:27:49,406 --> 00:27:50,843
[צרוח]

640
00:27:50,886 --> 00:27:52,279
כן. כן, כן.

641
00:27:52,322 --> 00:27:54,020
אתה לא צריך להיות איש טכנולוגיה.

642
00:27:54,063 --> 00:27:55,369
אתה לא חייב לדעת
תכנות כדי להבין את זה.

643
00:27:55,412 --> 00:27:56,718
זה לא כל כך קשה.

644
00:27:56,762 --> 00:27:58,111
זה לא דבר קשה
להבין.

645
00:27:58,154 --> 00:28:00,591
קונור, כמה-כמה אנשים

646
00:28:00,635 --> 00:28:02,637
בעולם כרגע
עובדים על AGI?

647
00:28:02,681 --> 00:28:05,466
לפחות 20,000, הייתי אומר.

648
00:28:05,509 --> 00:28:07,729
-20,000?
-הייתי מצפה שכן.

649
00:28:07,773 --> 00:28:09,426
בסדר, וכמה אנשים
עובדים במשרה מלאה

650
00:28:09,470 --> 00:28:12,038
כדי לוודא ש-AI לא,
כאילו, להרוג את כולנו?

651
00:28:12,081 --> 00:28:14,562
כנראה פחות מ-200
בעולם.

652
00:28:16,085 --> 00:28:17,913
דניאל:
והיהירות שלך היא כזו

653
00:28:17,957 --> 00:28:24,528
התוצאה הטבעית היחידה
מהפזיזות הזו...

654
00:28:25,704 --> 00:28:28,924
...היא קריסת האנושות?

655
00:28:28,968 --> 00:28:33,189
ובכן, לא הקריסה,
ההשמדה הפתאומית.

656
00:28:33,233 --> 00:28:35,888
יש הבדל.

657
00:28:35,931 --> 00:28:37,716
["מה המשמעות?"
על ידי נון פלוס מנגן]

658
00:28:37,759 --> 00:28:42,590
♪ מהי משמעות החיים? ♪

659
00:28:42,633 --> 00:28:46,594
♪ מה העתיד
ומה עכשיו? ♪

660
00:28:46,637 --> 00:28:49,945
♪ מה התשובה
לריב? ♪

661
00:28:49,989 --> 00:28:52,818
♪ כמה ♪

662
00:28:52,861 --> 00:28:54,950
♪ מישהו יכול לחלום? ♪

663
00:28:54,994 --> 00:28:57,474
♪ כמה זמן? ♪

664
00:28:57,518 --> 00:28:58,954
♪ לנצח ♪

665
00:29:00,216 --> 00:29:01,870
♪ מה המשמעות ♪

666
00:29:01,914 --> 00:29:04,133
-♪ ממני... ♪
-[צפירת ההגנה האזרחית רועמת]

667
00:29:04,177 --> 00:29:06,266
לדיש: אני כן חושב
זה כנראה, כאילו,

668
00:29:06,309 --> 00:29:07,963
האתגר הגדול ביותר
שכמו,

669
00:29:08,007 --> 00:29:11,271
הציוויליזציה שלנו
רצון-יתמודד, לעולם.

670
00:29:11,314 --> 00:29:14,361
זה בעצם האחרון
טעות שאי פעם נזכה לעשות.

671
00:29:16,276 --> 00:29:22,325
אם נוכל להתעלות להיות הכי הרבה
גרסה בוגרת של עצמנו,

672
00:29:22,369 --> 00:29:24,414
יכול להיות שיש
דרך לעבור את זה.

673
00:29:24,458 --> 00:29:25,764
דניאל:
מה זה אומר?

674
00:29:25,807 --> 00:29:27,809
"הגרסה הכי בוגרת
של עצמנו"?

675
00:29:29,332 --> 00:29:32,205
כי זה נשמע,
בשבילי, כאילו...

676
00:29:32,248 --> 00:29:34,250
אני-אני-- מה לעזאזל?

677
00:29:36,731 --> 00:29:39,168
[דניאל נאנח]

678
00:29:39,212 --> 00:29:43,216
אתה חושב שעכשיו הוא
זמן טוב להביא ילד לעולם?

679
00:29:48,221 --> 00:29:49,396
אממ...

680
00:29:49,439 --> 00:29:51,398
האם אתה רוצה להביא ילדים
יום אחד?

681
00:29:51,441 --> 00:29:53,400
האם זה משהו זה-זה
אתה בעניין או לא באמת?

682
00:29:53,443 --> 00:29:57,796
אממ... אה, אני מודה,
אני חושב שזה כמו,

683
00:29:57,839 --> 00:29:59,972
[צוחק]: "ילד, בוא נגיע
במהלך התקופה הקריטית הזו".

684
00:30:00,015 --> 00:30:01,234
אממ...

685
00:30:01,277 --> 00:30:02,496
דניאל:
יש לך ילדים?

686
00:30:02,539 --> 00:30:03,758
אני לא.

687
00:30:03,802 --> 00:30:05,064
האם זה משהו
אתה רוצה לעשות?

688
00:30:05,107 --> 00:30:07,196
יש ילדים, יש משפחה?

689
00:30:07,240 --> 00:30:11,244
באיזה עולם אחר מלבד זה
עולם, בטח, יהיו לי ילדים.

690
00:30:12,593 --> 00:30:14,421
דניאל: האם תרצה
להקים משפחה?

691
00:30:14,464 --> 00:30:16,379
האם היית רוצה להביא ילדים לעולם?

692
00:30:16,423 --> 00:30:18,425
האם זה משהו
אתה חושב על?

693
00:30:23,734 --> 00:30:25,780
אני, אממ...

694
00:30:28,087 --> 00:30:30,219
♪ ♪

695
00:30:30,263 --> 00:30:32,482
קרוליין:
אני רק צריך למצוא את זה קודם.

696
00:30:32,526 --> 00:30:34,702
[פעימות הלב של העובר]

697
00:30:34,745 --> 00:30:37,748
אנחנו חייבים ללכת
לרופא, אבל...

698
00:30:37,792 --> 00:30:41,143
אה! ידעתי את זה!
ידעתי את זה! ידעתי את זה!

699
00:30:41,187 --> 00:30:43,842
-מתי גילית?
-קרוליין: אתמול בלילה.

700
00:30:43,885 --> 00:30:45,931
-הו, אלוהים!
-אמא, אני לא יודע.

701
00:30:45,974 --> 00:30:47,280
רותי:
אני לא יכול להגיד לך

702
00:30:47,323 --> 00:30:49,195
-כמה אני שמח!
-קרוליין: לא, ברצינות.

703
00:30:49,238 --> 00:30:51,588
ובכן, עשיתי בדיקת הריון
אתמול בלילה, ואני בהריון.

704
00:30:51,632 --> 00:30:53,155
אישה:
הו, אלוהים!

705
00:30:53,199 --> 00:30:55,114
הו, אלוהים, אתם!

706
00:30:55,157 --> 00:30:57,290
אחות: רק רציתי לאשר
תאריך היעד הצפוי שלך,

707
00:30:57,333 --> 00:30:59,945
-שזה 21 בינואר.
-[צוחק]: הו, אלוהים.

708
00:30:59,988 --> 00:31:02,512
אני לא מאמין כמה אני מאושר.

709
00:31:02,556 --> 00:31:03,905
[פעימות הלב של העובר]

710
00:31:03,949 --> 00:31:05,472
קרוליין:
הוא כבר נראה ממש חמוד.

711
00:31:05,515 --> 00:31:07,126
דניאל: אתה חושב
הוא כבר נראה חמוד?

712
00:31:07,169 --> 00:31:08,518
קרוליין: כן.
תראה את הפרצוף החמוד הזה.

713
00:31:10,564 --> 00:31:12,609
[דופק דופק עוברי]

714
00:31:13,959 --> 00:31:15,525
דניאל:
יש לי את התינוק הזה בדרך.

715
00:31:15,569 --> 00:31:16,787
טריסטן האריס:
נכון.

716
00:31:16,831 --> 00:31:18,746
דניאל:
אז אני מעביר את זה אליך.

717
00:31:18,789 --> 00:31:21,227
האם נגזר עלינו גורל?

718
00:31:21,270 --> 00:31:23,969
האם כולנו נתמודד
הטכנו דיסטופי הזה

719
00:31:24,012 --> 00:31:25,884
עתיד אבדון?

720
00:31:28,756 --> 00:31:31,019
זה, אה...

721
00:31:31,063 --> 00:31:32,586
[מצחקק]:
זה לא חדשות טובות,

722
00:31:32,629 --> 00:31:35,154
העולם
שאליו אנחנו הולכים.

723
00:31:35,197 --> 00:31:36,982
אני-- עבור לשעבר--
כלומר, אני רק אהיה כנה.

724
00:31:37,025 --> 00:31:39,549
אה, אני מכיר אנשים
שעובדים על סיכון AI

725
00:31:39,593 --> 00:31:42,248
שלא מצפים לילדיהם
להגיע לתיכון.

726
00:31:43,249 --> 00:31:45,251
♪ ♪

727
00:31:52,127 --> 00:31:53,346
[צלצול האורות]

728
00:31:58,003 --> 00:32:01,528
דניאל: זה, כאילו...
זה בעצם מפחיד

729
00:32:01,571 --> 00:32:03,051
כי זה כמו,
אה, כולנו [בליפ].

730
00:32:03,095 --> 00:32:04,923
קרוליין:
אתה חייב להרגיע אותי,

731
00:32:04,966 --> 00:32:06,794
כי זה עושה אותי
חרדה להפליא

732
00:32:06,837 --> 00:32:08,622
ואני נושאת את התינוק
כרגע,

733
00:32:08,665 --> 00:32:11,625
אז אתה צריך להיות גם רגוע
בשבילי וחזק ומלא תקווה,

734
00:32:11,668 --> 00:32:16,412
כי אני-- זה גם כן
יותר מדי בשביל הנשמה שלי לשאת

735
00:32:16,456 --> 00:32:19,285
בזמן שאני נושאת את התינוק הזה.

736
00:32:19,328 --> 00:32:21,243
אז תצטרך לנסות
להבין

737
00:32:21,287 --> 00:32:24,159
דרך לקבל תקווה.

738
00:32:24,203 --> 00:32:27,771
זה ממש חשוב,
דניאל, במיוחד עכשיו.

739
00:32:28,772 --> 00:32:30,557
H-איך יש תקווה.

740
00:32:30,600 --> 00:32:33,342
אתה חייב.
אתה חייב למצוא את זה בשבילי.

741
00:32:33,386 --> 00:32:34,909
אני רציני.

742
00:32:34,953 --> 00:32:36,606
אני הולך.

743
00:32:37,825 --> 00:32:40,349
אני אעשה זאת. אני אנסה - אני אנסה.

744
00:32:46,399 --> 00:32:47,617
[צלצול האורות]

745
00:32:49,619 --> 00:32:51,404
דניאל:
היי, חבר'ה?

746
00:32:51,447 --> 00:32:52,840
חבר'ה.

747
00:32:54,363 --> 00:32:56,278
האם נוכל לחזור לעבודה?

748
00:32:58,411 --> 00:33:01,022
אוי וואלט! [נאנח]

749
00:33:03,894 --> 00:33:05,331
TED:
אה, דן, אתה מוכן?

750
00:33:05,374 --> 00:33:06,680
פיטר דיאמנדיס:
שלום, דניאל.

751
00:33:07,724 --> 00:33:09,465
דניאל:
היי, מה שלומך?

752
00:33:09,509 --> 00:33:11,032
דיאמנדיס:
אני... אני בסדר.

753
00:33:11,076 --> 00:33:13,948
אני חושב, אה... אני חושב
אני צריך קצת עזרה, פיטר.

754
00:33:15,254 --> 00:33:17,604
אממ, עבדתי
על הסרט הזה בערך,

755
00:33:17,647 --> 00:33:19,823
אני אגיד,
שמונה עד עשרה חודשים עכשיו.

756
00:33:19,867 --> 00:33:23,262
זה היה מאוד,
לפעמים, מדכא.

757
00:33:23,305 --> 00:33:25,612
-הממ.
-הרגשתי מנוכר מאוד

758
00:33:25,655 --> 00:33:27,744
-מק עושה את הסרט הזה.
-על ידי מי?

759
00:33:27,788 --> 00:33:30,051
לפי כל אלה, ה--
כל החבר'ה האלה

760
00:33:30,095 --> 00:33:33,228
שיושבים ומספרים לי
שהעולם יסתיים.

761
00:33:33,272 --> 00:33:34,708
-אה.
-זה, כאילו,

762
00:33:34,751 --> 00:33:36,536
אתה יודע, זה
שטויות אבדון, אתה יודע?

763
00:33:36,579 --> 00:33:38,059
אני מכיר את זה היטב.

764
00:33:38,103 --> 00:33:39,408
"כולנו נידונים.
כולם הולכים למות.

765
00:33:39,452 --> 00:33:40,931
הכל נורא".

766
00:33:40,975 --> 00:33:43,151
מדהים. אה, תן לי
להביא לך קצת אור.

767
00:33:43,195 --> 00:33:44,718
אָנָא.

768
00:33:44,761 --> 00:33:48,156
אנחנו באמת חיים
בתקופה יוצאת דופן.

769
00:33:49,418 --> 00:33:51,333
והרבה אנשים שוכחים את זה.

770
00:33:51,377 --> 00:33:53,640
הכל סביבנו הוא
תוצר של אינטליגנציה,

771
00:33:53,683 --> 00:33:57,035
וכך כל מה שאנו נוגעים בו
עם הכלים החדשים האלה סביר

772
00:33:57,078 --> 00:33:59,646
לייצר הרבה יותר ערך
ממה שראינו אי פעם בעבר.

773
00:33:59,689 --> 00:34:02,823
AI יכול לעזור לנו לגלות
חומרים חדשים.

774
00:34:02,866 --> 00:34:04,999
AI יכול לעזור למדעני חברה

775
00:34:05,043 --> 00:34:07,349
להבין
איך עובדת הכלכלה.

776
00:34:07,393 --> 00:34:11,658
יש הרבה AI יכול לעשות
לשפר את החיים והעבודה.

777
00:34:11,701 --> 00:34:14,095
אני מרגישה יותר מועצמת היום,

778
00:34:14,139 --> 00:34:16,315
בטוח יותר
ללמוד משהו היום.

779
00:34:16,358 --> 00:34:19,057
אנחנו נהפוך לבני אדם
כי יש לנו סופר AI.

780
00:34:19,100 --> 00:34:21,798
זו רק ההתחלה
של פיצוץ.

781
00:34:21,842 --> 00:34:24,453
בני אדם ובינה מלאכותית משתפים פעולה

782
00:34:24,497 --> 00:34:26,455
לפתור
בעיות חשובות באמת.

783
00:34:26,499 --> 00:34:29,763
זה כאן כדי לשחרר אותנו
מעבודות שגרתיות,

784
00:34:29,806 --> 00:34:33,723
וזה כאן כדי להזכיר לנו
מה זה שהופך אותנו לאנושיים.

785
00:34:33,767 --> 00:34:35,769
אני חושב שזהו

786
00:34:35,812 --> 00:34:38,598
הזמן הכי יוצא דופן
להיות בחיים.

787
00:34:38,641 --> 00:34:42,036
הפעם היחידה שמרגשת יותר
מאשר היום זה מחר.

788
00:34:42,080 --> 00:34:45,257
אה, אני חושב את זה
ילדים שנולדו היום,

789
00:34:45,300 --> 00:34:47,259
הם עומדים להיכנס

790
00:34:47,302 --> 00:34:50,827
תקופה מפוארת
של טרנספורמציה אנושית.

791
00:34:50,871 --> 00:34:52,525
יהיו לנו אתגרים?
כַּמוּבָן.

792
00:34:52,568 --> 00:34:55,180
האם נוכל לפתור את האתגרים הללו?
אנחנו עושים כל פעם מחדש.

793
00:34:55,223 --> 00:34:57,704
אנחנו כאן,
שזה מופלא.

794
00:34:57,747 --> 00:35:00,272
-אני כבר אוהב אותך.
-[מצחקק]: בסדר.

795
00:35:00,315 --> 00:35:01,925
-סופר אסיר תודה
שתהיה כאן. -[מחיאות כפיים]

796
00:35:01,969 --> 00:35:03,362
- סופר נלהב להיות כאן.
-כֵּן.

797
00:35:03,405 --> 00:35:04,885
אז הרצפה היא שלך, אדוני.

798
00:35:04,928 --> 00:35:07,409
תודה רבה לך.
סופר נרגש להיות כאן.

799
00:35:07,453 --> 00:35:10,586
גווילום ורדון:
יו, יו. בְּסֵדֶר.

800
00:35:10,630 --> 00:35:12,284
העתיד הולך להיות מדהים.

801
00:35:12,327 --> 00:35:14,286
כלומר, מאז שהייתי ילד,

802
00:35:14,329 --> 00:35:17,332
רציתי להבין
היקום בו אנו חיים,

803
00:35:17,376 --> 00:35:20,422
על מנת להבין
כיצד ליצור את הטכנולוגיות

804
00:35:20,466 --> 00:35:23,991
שעוזרים לנו להגדיל את ההיקף
וקנה המידה של הציוויליזציה.

805
00:35:24,034 --> 00:35:26,689
אני מרגיש כמו
אם לכולם היה הלך הרוח הזה,

806
00:35:26,733 --> 00:35:29,214
אז בעצם נחיה
בעולם טוב יותר, נכון?

807
00:35:29,257 --> 00:35:30,519
אני כן מאמין בזה.

808
00:35:32,782 --> 00:35:34,697
-דניאל: היי, פיט. מה שלומך?
-[מצחקק]

809
00:35:34,741 --> 00:35:36,525
פיטר לי:
חשבתי הרבה על

810
00:35:36,569 --> 00:35:39,049
מה שהייתי מכנה אימה,
פחד AI.

811
00:35:39,093 --> 00:35:40,703
אני מרגיש את זה.

812
00:35:40,747 --> 00:35:43,271
אני-לא פגשתי
כל בן אדם מתחשב

813
00:35:43,315 --> 00:35:45,143
מי שלא מרגיש את זה.

814
00:35:45,186 --> 00:35:48,276
וכל מי שאומר שלא
להרגיש שזה, אתה יודע, משקר.

815
00:35:48,320 --> 00:35:50,104
אבל, אתה יודע, בסך הכל,
והסיבה

816
00:35:50,148 --> 00:35:53,716
שאני אישית אופטימי
על זה, אה, זה

817
00:35:53,760 --> 00:35:56,545
חלק עצום מזה של העולם
האנשים האינטליגנטים ביותר

818
00:35:56,589 --> 00:35:58,417
חושבים מאוד קשה

819
00:35:58,460 --> 00:36:02,116
על הפוטנציאל במורד הזרם
נזקים וסיכונים של AI.

820
00:36:02,160 --> 00:36:05,641
יש לנו חזון כזה
של בטיחות, אה,

821
00:36:05,685 --> 00:36:08,253
סוג של במרכז
מהמחקר שאנו עושים.

822
00:36:08,296 --> 00:36:09,558
דניאלה אמודי:
לא, זה בסדר גמור.

823
00:36:09,602 --> 00:36:10,820
[פטפוט לא ברור]

824
00:36:10,864 --> 00:36:13,562
אני חושב שיש עוד

825
00:36:13,606 --> 00:36:17,436
יתרונות פוטנציאליים מאשר
יש חסרונות פוטנציאליים,

826
00:36:17,479 --> 00:36:19,481
ואני חושב שזה חובה

827
00:36:19,525 --> 00:36:21,831
האנשים שהם
יצירת טכנולוגיה זו

828
00:36:21,875 --> 00:36:24,530
כדי לוודא שאנחנו עושים
העבודה הכי טובה שאנחנו יכולים

829
00:36:24,573 --> 00:36:25,835
לעשות את זה בטוח עבור אנשים.

830
00:36:25,879 --> 00:36:27,402
אישה:
ריד הופמן.

831
00:36:27,446 --> 00:36:28,969
ריד הופמן:
מה שאני יכול להבטיח לך זה

832
00:36:29,012 --> 00:36:30,536
-כמה דברים רעים יקרו.
-קח אחד.

833
00:36:30,579 --> 00:36:32,668
מה אנחנו ננסה לעשות
זה לעשות את הדברים הרעים האלה

834
00:36:32,712 --> 00:36:36,150
כמה שפחות ולא ענקיים ככל האפשר,

835
00:36:36,194 --> 00:36:38,370
ואז נחזור על זה
לקבל--

836
00:36:38,413 --> 00:36:40,633
להיות במקום הרבה יותר טוב
עם החברה.

837
00:36:40,676 --> 00:36:43,679
-שלום.
-שו וולטרס: שלום.

838
00:36:43,723 --> 00:36:45,246
דניאל:
מה שלומך, מון?

839
00:36:45,290 --> 00:36:48,989
אני מרגיש שאנחנו מסתיימים
פרק באנושות

840
00:36:49,032 --> 00:36:50,512
ומתחיל חדש,

841
00:36:50,556 --> 00:36:53,211
וזה מאוד מעניין
זמן להיות בחיים.

842
00:36:53,254 --> 00:36:54,429
ואם יכולתי להיוולד
כרגע,

843
00:36:54,473 --> 00:36:55,865
בהחלט הייתי רוצה להיות.

844
00:36:55,909 --> 00:36:57,476
כאילו, זה יהיה כל כך מרגש.

845
00:36:57,519 --> 00:37:00,305
אני-אני מאוד נרגש. [צוחק]

846
00:37:00,348 --> 00:37:02,481
מה, איזה עתיד.
זה מרגש... מרגש אותך?

847
00:37:02,524 --> 00:37:03,699
לא.

848
00:37:03,743 --> 00:37:06,528
-[צוחק]
-לא, ממש לא.

849
00:37:06,572 --> 00:37:08,313
דניאל: הרבה מהאנשים האלה
אמרו לי את זה, אתה יודע,

850
00:37:08,356 --> 00:37:10,445
הילד שלי לא יצליח
לתיכון.

851
00:37:10,489 --> 00:37:13,318
למה הם טועים?
בבקשה תסביר לי את זה.

852
00:37:13,361 --> 00:37:15,058
רק בגלל שיש לך--

853
00:37:15,102 --> 00:37:18,845
אתה מתקשה לחזות
העתיד בראש שלך

854
00:37:18,888 --> 00:37:23,023
לא אומר שכן
בהכרח הולך נורא.

855
00:37:23,066 --> 00:37:26,592
למעשה, יש
סבירות גבוהה מאוד

856
00:37:26,635 --> 00:37:28,289
והתקדים ההיסטורי
האם זה

857
00:37:28,333 --> 00:37:30,117
דברים משתפרים בצורה מסיבית.

858
00:37:30,160 --> 00:37:34,469
המונח שאני משתמש בו הוא
"אופטימיות מונעת נתונים."

859
00:37:34,513 --> 00:37:38,647
יש בסיס איתן
כדי שתהיה אופטימי.

860
00:37:38,691 --> 00:37:41,998
תראה מה
המאה האחרונה הייתה

861
00:37:42,042 --> 00:37:44,087
לראות לאן אנחנו הולכים.

862
00:37:44,131 --> 00:37:45,915
במאה השנים האחרונות,

863
00:37:45,959 --> 00:37:48,701
תוחלת החיים הממוצעת של האדם
יותר מהכפיל את עצמו.

864
00:37:48,744 --> 00:37:51,269
הכנסה ממוצעת לנפש
מותאם לאינפלציה

865
00:37:51,312 --> 00:37:53,619
ברחבי העולם גדל פי שלושה.

866
00:37:53,662 --> 00:37:57,057
יש לתמותה בילדות
לרדת בפקטור של עשר.

867
00:37:57,100 --> 00:37:59,712
העולם השתפר
כמעט בכל מידה

868
00:37:59,755 --> 00:38:03,019
בסדרי גודל
בגלל הטכנולוגיה.

869
00:38:03,063 --> 00:38:05,152
כמעט בכל מידה.

870
00:38:05,195 --> 00:38:09,722
פחות אלימות, יותר חינוך,
גישה לאנרגיה, מזון, מים.

871
00:38:09,765 --> 00:38:12,942
כל הדברים האלה קרו
מסיבה אחת.

872
00:38:12,986 --> 00:38:15,336
זה כבר טכנולוגיה

873
00:38:15,380 --> 00:38:17,556
שהפך למחסור
אל השפע,

874
00:38:17,599 --> 00:38:19,514
אבל זה גם מונע
לשפע

875
00:38:19,558 --> 00:38:21,864
של כמה שליליות, נכון?

876
00:38:21,908 --> 00:38:25,738
שפע של השמנת יתר,
שפע של הפרעות נפשיות,

877
00:38:25,781 --> 00:38:29,437
שפע של שינויי אקלים,
וכן הלאה.

878
00:38:29,481 --> 00:38:31,309
וכן, זה נכון.

879
00:38:31,352 --> 00:38:34,094
אבל כנראה שנהיה
מצויד טוב יותר לפתור את זה

880
00:38:34,137 --> 00:38:36,226
באמצעות טכנולוגיות אחרות,
כמו AI,

881
00:38:36,270 --> 00:38:39,273
ממה שאנחנו, נגיד, נעצור
ומכבה הכל.

882
00:38:39,317 --> 00:38:41,449
יכול להיות שיש
סיכון קיומי כלשהו,

883
00:38:41,493 --> 00:38:45,323
אבל בינה מלאכותית היא גם העניין
שיכול לפתור את המגיפות,

884
00:38:45,366 --> 00:38:47,455
יכול לעזור לנו עם שינויי אקלים,

885
00:38:47,499 --> 00:38:50,545
יכול לעזור לזהות
דרך האסטרואיד שם בחוץ

886
00:38:50,589 --> 00:38:52,547
לפני שראינו את זה
כסיכון פוטנציאלי

887
00:38:52,591 --> 00:38:54,332
ולעזור להפחית את זה.

888
00:38:54,375 --> 00:38:58,074
זה באמת הולך להיות
הכלי שעוזר לנו להתמודד

889
00:38:58,118 --> 00:39:01,426
את כל האתגרים שאנו נמצאים בו
מתמודד כמין, נכון?

890
00:39:01,469 --> 00:39:04,167
אנחנו צריכים לתקן
התפלת מים.

891
00:39:04,211 --> 00:39:05,995
אנחנו צריכים לגדל מזון

892
00:39:06,039 --> 00:39:08,433
זול פי 100 מ
אנחנו עושים כרגע.

893
00:39:08,476 --> 00:39:12,350
אנחנו צריכים אנרגיה מתחדשת כדי להיות,
אתה יודע, בכל מקום

894
00:39:12,393 --> 00:39:14,047
ובכל מקום בחיינו.

895
00:39:14,090 --> 00:39:17,137
בכל מקום שאתה מסתכל,
ב-50 השנים הבאות,

896
00:39:17,180 --> 00:39:19,269
אנחנו צריכים לעשות יותר עם פחות.

897
00:39:19,313 --> 00:39:23,186
מכונות הדרכה שיעזרו לנו
חיוני לחלוטין.

898
00:39:23,230 --> 00:39:24,797
מדענים משתמשים
בינה מלאכותית

899
00:39:24,840 --> 00:39:25,972
ללכידת פחמן.

900
00:39:26,015 --> 00:39:27,582
זו טכנולוגיה קריטית.

901
00:39:27,626 --> 00:39:29,541
דיאמנדיס: הכלים
לפתור את הבעיות הללו,

902
00:39:29,584 --> 00:39:32,195
כמו היתוך,
זה כבר לא תיאורטי,

903
00:39:32,239 --> 00:39:33,980
זה מגיע.

904
00:39:34,023 --> 00:39:37,723
אנחנו על המשקע
של טכנולוגיות יוצאות דופן.

905
00:39:37,766 --> 00:39:39,986
אמנא נוואז: השנה
פרס נובל בכימיה

906
00:39:40,029 --> 00:39:42,815
הלך לשלושה מדענים
על עבודתם פורצת הדרך

907
00:39:42,858 --> 00:39:44,556
באמצעות בינה מלאכותית

908
00:39:44,599 --> 00:39:47,297
להתקדם בתחום הביו-רפואי
וחקר חלבונים.

909
00:39:47,341 --> 00:39:49,691
דמיס חסאביס:
קיפול חלבון הוא

910
00:39:49,735 --> 00:39:53,608
אחד מהגביע הקדוש האלה
בעיות סוג בביולוגיה.

911
00:39:53,652 --> 00:39:55,741
אז אנשים חזו
מאז שנות ה-70

912
00:39:55,784 --> 00:39:58,091
שזה צריך להיות אפשרי,
אבל עד עכשיו,

913
00:39:58,134 --> 00:39:59,571
אף אחד לא הצליח לעשות את זה.

914
00:39:59,614 --> 00:40:01,181
וזה הולך להיות
באמת חשוב לדברים

915
00:40:01,224 --> 00:40:03,618
כמו גילוי סמים
והבנת מחלות.

916
00:40:03,662 --> 00:40:06,534
אני-אני חושב שאנחנו יכולים, אתה יודע,
לרפא את רוב המחלות

917
00:40:06,578 --> 00:40:11,931
בעשור או שניים הבאים
אם, אה, עיצוב תרופות בינה מלאכותית עובד.

918
00:40:11,974 --> 00:40:15,630
הקידמה הטכנולוגית מאפשרת
יותר חיי אדם, נכון?

919
00:40:15,674 --> 00:40:18,677
אני מתכוון, אם אנחנו מאיצים,

920
00:40:18,720 --> 00:40:21,723
מספר בני האדם שאנו יכולים
התמיכה גדלה באופן אקספוננציאלי.

921
00:40:21,767 --> 00:40:24,073
אם נאט את הקצב, זה מפלסים.

922
00:40:24,117 --> 00:40:27,729
הפער הזה הוא אפקטיבי
אנשים עתידיים

923
00:40:27,773 --> 00:40:31,341
שיש להאטה
נהרג ביעילות.

924
00:40:31,385 --> 00:40:33,909
דניאל: מיליוני חיים
שלא יהיה קיים.

925
00:40:33,953 --> 00:40:35,128
מיליארדים.

926
00:40:35,171 --> 00:40:36,782
או עשרות מיליארדים.

927
00:40:36,825 --> 00:40:38,436
אתה יודע, מישהו אמר,
"אוי אלוהים,

928
00:40:38,479 --> 00:40:40,655
האם נוכל לשרוד עם
מודיעין-על דיגיטלי?"

929
00:40:40,699 --> 00:40:42,309
והשאלה שלי היא:

930
00:40:42,352 --> 00:40:44,180
האם נוכל לשרוד בלי
מודיעין דיגיטלי?

931
00:40:44,224 --> 00:40:47,575
אז אנחנו משתמשים בבינה מלאכותית
כעוזר לספקים.

932
00:40:47,619 --> 00:40:50,448
זו בדרך כלל מגמה ש
אנחנו כבר יכולים לראות קורה.

933
00:40:50,491 --> 00:40:52,319
ברטה קומבס: ... רותמים
תוכניות AI גנרטיביות

934
00:40:52,362 --> 00:40:54,060
לעזור לרופאים ואחיות...

935
00:40:54,103 --> 00:40:56,062
תמיד יש לנו בעיות.

936
00:40:56,105 --> 00:40:59,108
והבעיות האלה הן אוכל
עבור יזמים

937
00:40:59,152 --> 00:41:01,154
ליצור עסק חדש
ותעשיות חדשות.

938
00:41:01,197 --> 00:41:03,069
שאנל קאול: ...בעזרה
של בינה מלאכותית,

939
00:41:03,112 --> 00:41:04,766
החקלאים מקבלים
את העזרה שהם צריכים

940
00:41:04,810 --> 00:41:06,594
לבצע
משימות עתירות עבודה...

941
00:41:06,638 --> 00:41:10,163
בעזרת Ulangizi AI,
החקלאים מסוגלים כעת

942
00:41:10,206 --> 00:41:12,948
לשאול את הגידולים המתאימים
שהם יכולים לשתול.

943
00:41:12,992 --> 00:41:14,950
WILL REEVE: ...בשימוש בAI
כמפענח מחשבה

944
00:41:14,994 --> 00:41:17,387
ושולחים את האות הזה
לעמוד השדרה.

945
00:41:17,431 --> 00:41:21,609
AI הולך להפוך להכי
כלי יוצא דופן מכולם.

946
00:41:21,653 --> 00:41:24,264
אנחנו כחברה רחבה יותר
צריך לחשוב על

947
00:41:24,307 --> 00:41:27,049
איך אנחנו רוצים להשתמש
הטכנולוגיה הזו, נכון?

948
00:41:27,093 --> 00:41:28,529
אנחנו בני האדם.

949
00:41:28,573 --> 00:41:31,097
מה אנחנו רוצים שזה יעשה עבורנו?

950
00:41:31,140 --> 00:41:34,535
♪ ♪

951
00:41:34,579 --> 00:41:36,189
דניאל: אני חושב על זה
דרך הפרספקטיבה

952
00:41:36,232 --> 00:41:37,886
ועדשה של, כמו,
הבן שלי גדל

953
00:41:37,930 --> 00:41:39,540
בעולם עם כל זה.

954
00:41:39,584 --> 00:41:42,238
מה עושה הגרסה הטובה ביותר
מהחיים שלו נראה?

955
00:41:42,282 --> 00:41:44,589
אם הכל יסתדר.

956
00:41:44,632 --> 00:41:46,808
[נאנח בכבדות]

957
00:41:46,852 --> 00:41:50,246
וולטרס: המקום שבו ילדים
כנראה יראו

958
00:41:50,290 --> 00:41:52,684
ההשפעה הגדולה ביותר
על חייהם מיד

959
00:41:52,727 --> 00:41:54,424
כנראה הולך להיות בית ספר.
-[ילדים מפטפטים]

960
00:41:54,468 --> 00:41:56,688
אני חושב שהטבע
של מה זה בית ספר

961
00:41:56,731 --> 00:41:58,472
הולך להשתנות מהיסוד.

962
00:41:58,516 --> 00:42:00,474
[ילד מצחקק]

963
00:42:00,518 --> 00:42:02,737
דיאמנדיס:
אני רואה את העולם המדהים הזה

964
00:42:02,781 --> 00:42:06,436
שבו לכל ילד יש גישה
לחינוך לא טוב

965
00:42:06,480 --> 00:42:09,091
אבל, בקרוב מאוד, ה
החינוך הטוב ביותר על פני כדור הארץ.

966
00:42:09,135 --> 00:42:13,879
הופמן: מורים, כל נושא,
סבלנות עד אין קץ.

967
00:42:18,013 --> 00:42:20,059
דיאמנדיס:
דמיינו עתיד

968
00:42:20,102 --> 00:42:22,235
איפה האנשים העניים ביותר
על הפלנטה

969
00:42:22,278 --> 00:42:25,804
יש גישה ל
את שירותי הבריאות הטובים ביותר.

970
00:42:25,847 --> 00:42:29,547
שירותי בריאות לא טובים, הטובים ביותר
שירותי בריאות, המסופקים על ידי AIs.

971
00:42:31,157 --> 00:42:32,767
[טרילינג אלקטרוני]

972
00:42:34,334 --> 00:42:38,556
אנחנו נוכל להאריך
טווח הבריאות שלנו,

973
00:42:38,599 --> 00:42:42,168
לא רק את תוחלת החיים שלנו,
טווח הבריאות שלנו, בעשרות שנים.

974
00:42:44,431 --> 00:42:46,215
הופמן:
אתה בדיוק עומד להביא ילד לעולם.

975
00:42:46,259 --> 00:42:49,697
הו, של הילד, כאילו,
גיהוקים ללא שליטה.

976
00:42:49,741 --> 00:42:52,047
האם זה משהו
אני צריך לדאוג?

977
00:42:52,091 --> 00:42:54,223
שם, 24-7, בשבילך.

978
00:42:54,267 --> 00:42:57,183
ולאן אנחנו הולכים--
וזה עשוי להיות מפחיד עבור חלק--

979
00:42:57,226 --> 00:42:59,228
זה שאנחנו הולכים להתמזג
עם AI.

980
00:42:59,272 --> 00:43:01,361
אנחנו הולכים להתמזג
עם טכנולוגיה.

981
00:43:02,667 --> 00:43:06,105
עד תחילת עד אמצע שנות ה-30,

982
00:43:06,148 --> 00:43:10,457
לצפות שאנחנו מסוגלים
לחבר את המוח שלנו לענן,

983
00:43:10,500 --> 00:43:13,721
איפה אני יכול להתחיל
כדי להרחיב את הגישה לזיכרון.

984
00:43:16,071 --> 00:43:18,030
[טרילינג אלקטרוני]

985
00:43:19,771 --> 00:43:22,077
דניאל: אוקיי, זה נהדר.
מה עוד דבר מגניב של AI?

986
00:43:22,121 --> 00:43:23,775
הוא לא יצטרך לעבוד, נכון?

987
00:43:23,818 --> 00:43:25,167
-כמו, כשהוא יגדל,
אולי לא היה לו... -[נאנח]

988
00:43:25,211 --> 00:43:26,212
-...הוא לא יצטרך לעבוד.
-כלומר...

989
00:43:26,255 --> 00:43:27,779
הוא לא יצטרך עבודה,

990
00:43:27,822 --> 00:43:30,608
אבל אולי באמת היה לו
תשוקה עזה,

991
00:43:30,651 --> 00:43:33,132
והוא חייב
באמת לחשוב על,

992
00:43:33,175 --> 00:43:36,091
"בסדר, אני כאן.
אני יכול לעשות הכל עם החיים שלי.

993
00:43:36,135 --> 00:43:37,876
אז מה אני עושה?"

994
00:43:38,920 --> 00:43:40,182
אנחנו צריכים למצוא משמעות,

995
00:43:40,226 --> 00:43:42,620
מעבר כמו,
הצורה הנוכחית הזו של

996
00:43:42,663 --> 00:43:45,666
אנחנו חיים בשביל העבודה
ולעבוד למחייה.

997
00:43:45,710 --> 00:43:49,844
דניאל: אז הבן שלי יכול...
יכול להיות רק משורר.

998
00:43:49,888 --> 00:43:51,541
-כן.
-וגם צייר.

999
00:43:51,585 --> 00:43:53,021
בהחלט.

1000
00:43:53,065 --> 00:43:54,849
דניאל:
אז הבן שלי יוכל לחיות את חייו

1001
00:43:54,893 --> 00:43:57,591
על אי סחוף שמש יווני,
לצייר כל היום.

1002
00:43:57,635 --> 00:43:59,114
YU:
בהחלט. אפשרי.

1003
00:44:00,072 --> 00:44:01,203
בהחלט.

1004
00:44:01,247 --> 00:44:02,944
Well, we're working toward that

1005
00:44:02,988 --> 00:44:04,554
זה הרבה עבודה לעשות
לפני שנגיע לשם.

1006
00:44:06,992 --> 00:44:08,776
ורדון:
כלומר, אם הכל יסתדר,

1007
00:44:08,820 --> 00:44:11,997
יש לנו זול, אה,
אנרגיה בשפע.

1008
00:44:13,607 --> 00:44:17,219
אנחנו יכולים לשלוט לחלוטין
האקלים של הפלנטה שלנו.

1009
00:44:17,263 --> 00:44:20,135
אנחנו רותמים אנרגיה
מהשמש.

1010
00:44:20,179 --> 00:44:24,400
הפכנו לרב-כוכבים,
אז אנחנו נעשים חזקים מאוד.

1011
00:44:24,444 --> 00:44:26,664
אנחנו רותמים מינרלים
ומשאבים

1012
00:44:26,707 --> 00:44:28,404
ממערכת השמש.

1013
00:44:28,448 --> 00:44:31,233
דניאל: אז שלי...
הילד שלי יכול ללכת לחלל.

1014
00:44:31,277 --> 00:44:32,887
ורדון:
בטח.

1015
00:44:32,931 --> 00:44:34,715
דניאל: הוא יכול לנסוע למאדים.
-ורדון: כן.

1016
00:44:34,759 --> 00:44:36,369
דניאל:
זה כל כך ברור לי עכשיו.

1017
00:44:36,412 --> 00:44:39,198
הבן שלי יכול לגדול
בעולם ללא מחלות.

1018
00:44:39,241 --> 00:44:40,590
-ורדון: כן.
-ללא מחלה.

1019
00:44:40,634 --> 00:44:41,896
-בַּטוּחַ.
-ללא עוני.

1020
00:44:41,940 --> 00:44:43,681
-כֵּן.
-אנחנו עומדים להיכנס

1021
00:44:43,724 --> 00:44:46,640
עולם שלאחר מחסור.

1022
00:44:46,684 --> 00:44:50,470
בדיוק כמו שדג הריאות זז
מתוך האוקיינוסים אל היבשה

1023
00:44:50,513 --> 00:44:53,081
מאות מיליונים
לפני שנים,

1024
00:44:53,125 --> 00:44:57,999
אנחנו עומדים לזוז מ
כדור הארץ, לתוך הקוסמוס,

1025
00:44:58,043 --> 00:44:59,871
באופן שיתופי,

1026
00:44:59,914 --> 00:45:03,744
לעשות דברים שהם
לא מובן לנו היום.

1027
00:45:06,268 --> 00:45:09,184
זה מה שאפשר להשתמש בו
טכנולוגיות אקספוננציאליות אלו

1028
00:45:09,228 --> 00:45:10,708
וה-AI האלה.

1029
00:45:11,839 --> 00:45:13,928
בואו נשתמש בכלים האלה

1030
00:45:13,972 --> 00:45:16,104
ליצור עידן השפע הזה.

1031
00:45:16,148 --> 00:45:18,150
[לחיצה אלקטרונית]

1032
00:45:20,500 --> 00:45:22,937
אנחנו צריכים חוכמה.

1033
00:45:22,981 --> 00:45:25,984
אה, אני חושב את זה
מודיעין-על דיגיטלי

1034
00:45:26,027 --> 00:45:28,726
יהפוך בסופו של דבר
הכי חכם,

1035
00:45:28,769 --> 00:45:34,253
אתה יודע, זקני הכפר
עבור האנושות.

1036
00:45:34,296 --> 00:45:37,996
מה אם AI מנסה
לגרום לאנשים להיות

1037
00:45:38,039 --> 00:45:39,737
הגרסאות הטובות ביותר של עצמם?

1038
00:45:39,780 --> 00:45:41,347
מה אם זה מתרחב

1039
00:45:41,390 --> 00:45:43,392
מה אפשרי מבחינה אנושית
לנו לעשות?

1040
00:45:43,436 --> 00:45:46,656
איך אנחנו יכולים להשתמש בטכנולוגיה הזו

1041
00:45:46,700 --> 00:45:49,921
לעזור להוציא את
מלאכים טובים יותר מהטבע שלנו?

1042
00:45:49,964 --> 00:45:51,661
זה מאוד קל,

1043
00:45:51,705 --> 00:45:54,316
כאשר אנו נתקלים בדברים חדשים
זה יכול להיות מאוד זר,

1044
00:45:54,360 --> 00:45:55,927
קודם כל לפחד.

1045
00:45:55,970 --> 00:45:57,493
פחד הוא דבר חשוב

1046
00:45:57,537 --> 00:46:00,322
כיצד לנווט
דברים רעים פוטנציאליים.

1047
00:46:00,366 --> 00:46:03,717
אבל אנחנו רק מתקדמים
כשיש לנו תקווה.

1048
00:46:03,761 --> 00:46:05,719
-[כלב נובח]
-[פטפוט לא ברור]

1049
00:46:05,763 --> 00:46:07,895
דניאל:
ששש. מוס, תפסיק עם זה.

1050
00:46:07,939 --> 00:46:10,811
הופמן: יש לי הרבה
של תקווה באנושות.

1051
00:46:10,855 --> 00:46:13,814
["ירח הקציר" מאת ניל יאנג
משחק בטלפון]

1052
00:46:15,294 --> 00:46:17,296
[פעימות הלב של העובר]

1053
00:46:18,471 --> 00:46:19,951
דניאל:
הו, הוא אוהב את ניל.

1054
00:46:24,694 --> 00:46:27,480
♪ תתקרב קצת ♪

1055
00:46:28,916 --> 00:46:32,790
♪ שמע מה יש לי לומר ♪

1056
00:46:36,576 --> 00:46:38,665
-דניאל.
-דניאל: מה, קרוליין?

1057
00:46:38,708 --> 00:46:40,058
כל כך הרבה צילומים.

1058
00:46:41,537 --> 00:46:43,061
♪ בדיוק כמו ילדים ישנים ♪

1059
00:46:43,104 --> 00:46:44,889
קרוליין:
הו, אלוהים.

1060
00:46:44,932 --> 00:46:46,368
דניאל:
זהו.

1061
00:46:46,412 --> 00:46:49,415
♪ יכולנו לחלום
בלילה הזה... ♪

1062
00:46:49,458 --> 00:46:51,678
יש לו, כאילו,
פרצוף קטן עגול.

1063
00:46:53,245 --> 00:46:55,203
דניאל: אתה רוצה
להביא ילדים יום אחד, רוקי?

1064
00:46:55,247 --> 00:46:57,423
בְּהֶחלֵט. כֵּן. אני אוהב ילדים.

1065
00:46:57,466 --> 00:46:59,033
אני חושב שזו תקופה נהדרת
להביא ילד לעולם.

1066
00:46:59,077 --> 00:47:00,730
כנראה שיהיה לנו עוד ילד
בשלב מסוים.

1067
00:47:00,774 --> 00:47:03,733
זה הכי יוצא דופן
זמן אי פעם להיוולד.

1068
00:47:03,777 --> 00:47:05,823
דניאל:
לפי השקפת העולם וההיגיון שלך,

1069
00:47:05,866 --> 00:47:07,868
יש לי ילד ב

1070
00:47:07,912 --> 00:47:09,478
הנקודה הכי טובה שאפשר
בהיסטוריה האנושית.

1071
00:47:09,522 --> 00:47:10,828
לעזאזל כן.

1072
00:47:10,871 --> 00:47:13,308
-אנחנו יכולים להתמקד במדהים.
-כֵּן.

1073
00:47:13,352 --> 00:47:15,528
בואו נבנה
העתיד טוב יותר שאנו רוצים.

1074
00:47:15,571 --> 00:47:18,313
הנרטיב הזה שהעתיד
יהיה עגום הוא מורכב.

1075
00:47:18,357 --> 00:47:20,011
אחרי שדיברתי איתך,
זה בערך מה שאני מרגיש.

1076
00:47:20,054 --> 00:47:21,969
-זה נהדר.
-יָמִינָה?

1077
00:47:22,013 --> 00:47:24,189
כֵּן. ככה אני מרגיש.

1078
00:47:24,232 --> 00:47:25,799
ואני חושב שזה עדיף,

1079
00:47:25,843 --> 00:47:27,627
ואני לא חושב
אני צריך להיות כל כך חרד.

1080
00:47:27,670 --> 00:47:29,063
אני חושב שזה הולך להיות יראת כבוד--
העתיד יהיה מדהים.

1081
00:47:29,107 --> 00:47:30,499
אנחנו הולכים לעשות את זה כך.

1082
00:47:30,543 --> 00:47:32,675
-כֵּן.
קרוליין: אז הנה לך.

1083
00:47:32,719 --> 00:47:34,808
להתראות, הכחדה אנושית.

1084
00:47:34,852 --> 00:47:37,158
להתראות, חרדה.

1085
00:47:37,202 --> 00:47:39,030
התקווה נמצאה.

1086
00:47:39,073 --> 00:47:40,553
[פטפוט לא ברור]

1087
00:47:40,596 --> 00:47:42,860
רגע, רגע. מַה?
האם זו בדיחה?

1088
00:47:42,903 --> 00:47:44,774
דניאל:
אוקיי, אז לפני כמה חודשים,

1089
00:47:44,818 --> 00:47:47,690
באתי אליך והייתי כמו,
"אני עובד על עניין הבינה המלאכותית הזה,

1090
00:47:47,734 --> 00:47:49,867
ואני חושב
העולם יסתיים."

1091
00:47:49,910 --> 00:47:52,913
ובפעם האחרונה
דיברנו על זה,

1092
00:47:52,957 --> 00:47:55,002
אני חושב שהבהלתי אותך.

1093
00:47:55,046 --> 00:47:57,004
קרוליין:
כן.

1094
00:47:57,048 --> 00:48:02,314
אז, אני קצת, כאילו, מרגיש כמו
התנדנדתי פנימה-- על מטוטלת,

1095
00:48:02,357 --> 00:48:04,446
ובעצם יש
שתי קבוצות של אנשים.

1096
00:48:04,490 --> 00:48:06,057
-ממ-הממ.
-ואם הייתי צריך, כאילו,

1097
00:48:06,100 --> 00:48:07,841
להחזיק ידיים עם
אחת הקבוצות וכמו,

1098
00:48:07,885 --> 00:48:10,278
להפליג אל השקיעה,

1099
00:48:10,322 --> 00:48:13,281
אני רוצה להיות עם האופטימיים.

1100
00:48:15,066 --> 00:48:17,982
כמובן, אבל אתה לא
רוצה להיות, אתה יודע,

1101
00:48:18,025 --> 00:48:20,723
"הכל נהדר.
לה-די-דה-די-דה".

1102
00:48:20,767 --> 00:48:22,682
אבל אני די רוצה את זה.

1103
00:48:22,725 --> 00:48:25,598
אני חושב שאנחנו צריכים לגשת לזה

1104
00:48:25,641 --> 00:48:29,341
כמו שאתה ניגשים לניתוח.

1105
00:48:29,384 --> 00:48:30,690
למה אתה מתכוון?

1106
00:48:30,733 --> 00:48:32,431
אם אתה מקבל
ניתוח מוח...

1107
00:48:32,474 --> 00:48:34,781
-[דניאל נאנח]
-[קרוליין מצחקקת]

1108
00:48:34,824 --> 00:48:36,957
...זה די מסוכן.

1109
00:48:37,001 --> 00:48:39,829
אבל אם אתה עושה את זה נכון,
הם יוציאו את הגידול הזה

1110
00:48:39,873 --> 00:48:42,354
ואתה תחיה לשארית
החיים שלך וזה יהיה מדהים.

1111
00:48:42,397 --> 00:48:45,096
אבל זה עדיין
מסוכן ומפחיד להפליא,

1112
00:48:45,139 --> 00:48:47,968
ואתה צריך לקחת
כל אמצעי זהירות אפשרי

1113
00:48:48,012 --> 00:48:51,276
על מנת לוודא
הכל הולך טוב.

1114
00:48:51,319 --> 00:48:52,668
אתה לא יכול [לצפצף] מסביב.

1115
00:48:57,760 --> 00:48:59,762
אוקיי, אז הנה העסקה.

1116
00:48:59,806 --> 00:49:01,503
-אני בזה כבר זמן מה.
-רסקין: ממ-הממ.

1117
00:49:01,547 --> 00:49:02,896
יצאתי,
דיברתי עם, כאילו,

1118
00:49:02,940 --> 00:49:04,767
החבר'ה האלה כאן,
האופטימיים.

1119
00:49:04,811 --> 00:49:06,465
הם מאוד מתרגשים מזה.

1120
00:49:06,508 --> 00:49:08,510
-הם חושבים שבינה מלאכותית תהיה
הדבר הכי טוב אי פעם. -כֵּן.

1121
00:49:08,554 --> 00:49:09,947
והחבר'ה האלה כאן
הם, כאילו, ה--

1122
00:49:09,990 --> 00:49:11,992
בואו נתקשר אליהם,
כמו הפסימיסטים.

1123
00:49:12,036 --> 00:49:14,299
הם מאוד, כאילו,
קודר על זה,

1124
00:49:14,342 --> 00:49:16,649
והם מפחידים אותי, ו
אני לא אוהב לדבר איתם.

1125
00:49:16,692 --> 00:49:19,565
ואני, כאילו, תקוע בין לבין

1126
00:49:19,608 --> 00:49:21,741
האנשים האלה שהם כמו,
"העולם יסתיים"

1127
00:49:21,784 --> 00:49:24,178
ואז האנשים האלה
כאן מי כמו,

1128
00:49:24,222 --> 00:49:25,745
"אתה צוחק?

1129
00:49:25,788 --> 00:49:27,268
"זו התקופה הכי טובה
בהיסטוריה האנושית אי פעם.

1130
00:49:27,312 --> 00:49:29,357
היום היחיד טוב מהיום
זה מחר."

1131
00:49:29,401 --> 00:49:30,880
ממ-הממ.

1132
00:49:30,924 --> 00:49:34,710
אז אני מניח שהשאלה היא:
מי צודק?

1133
00:49:34,754 --> 00:49:39,193
אז אני חושב שאתה תמצא
התשובה הזו מאוד לא מספקת,

1134
00:49:39,237 --> 00:49:42,849
אבל שניהם צודקים ו
אף צד לא הולך רחוק מספיק.

1135
00:49:46,766 --> 00:49:49,247
-זה ממש מעצבן.
-[מצחקק]

1136
00:49:49,290 --> 00:49:51,336
כן, אני חושב שהדרך
הרבה אנשים שומעים על AI,

1137
00:49:51,379 --> 00:49:53,642
זה כאילו, יש AI טוב
ויש AI גרוע.

1138
00:49:53,686 --> 00:49:56,428
והם אומרים, "טוב, למה לא
אנחנו פשוט לא עושים את הבינה המלאכותית הגרועה?"

1139
00:49:56,471 --> 00:49:58,734
והבעיה היא
שהם יותר מדי ב--

1140
00:49:58,778 --> 00:50:00,867
הם קשורים קשר בל יינתק.

1141
00:50:00,910 --> 00:50:03,043
הבעיה היא
שאנחנו לא יכולים להפריד

1142
00:50:03,087 --> 00:50:06,612
ההבטחה של AI
מהסכנה של AI.

1143
00:50:06,655 --> 00:50:08,266
-♪ ♪
-[פטפוט לא ברור]

1144
00:50:12,313 --> 00:50:14,663
דניאל:
אני רוצה להתמקד בהבטחה

1145
00:50:14,707 --> 00:50:16,752
-לשנייה.
-כֵּן.

1146
00:50:16,796 --> 00:50:18,798
דניאל:
אני חושב על אבא שלי.

1147
00:50:18,841 --> 00:50:21,105
לאבא שלי יש סוג של סרטן
נקרא מיאלומה נפוצה.

1148
00:50:21,148 --> 00:50:23,107
יש לו את זה כעשר שנים.

1149
00:50:23,150 --> 00:50:24,804
היה לו
שתי השתלות תאי גזע.

1150
00:50:24,847 --> 00:50:26,414
הוא חייב לקחת את אלה,
כאילו, מאוד יקר

1151
00:50:26,458 --> 00:50:28,547
תרופות מדי חודש
שעלה הון תועפות.

1152
00:50:28,590 --> 00:50:29,722
-אישה: בסדר.
-איי-איי-איי.

1153
00:50:30,766 --> 00:50:32,551
דניאל:
זה נורא.

1154
00:50:32,594 --> 00:50:34,466
אתה אומר לי שאנחנו יכולים
ליצור איזשהו, כמו,

1155
00:50:34,509 --> 00:50:36,946
טיפול בהתאמה אישית
לגנום של אבא שלי

1156
00:50:36,990 --> 00:50:39,297
-לרפא את הסרטן שלו
או משהו כזה? -כֵּן.

1157
00:50:39,340 --> 00:50:41,168
פרננדו:
הבעיה היא,

1158
00:50:41,212 --> 00:50:44,302
אותה הבנה
של ביולוגיה וכימיה

1159
00:50:44,345 --> 00:50:47,783
שמאפשר לבינה מלאכותית למצוא תרופות
לסרטן

1160
00:50:47,827 --> 00:50:51,657
היא אותה הבנה
זה יפתח

1161
00:50:51,700 --> 00:50:54,094
נשק ביולוגי, כדוגמה.

1162
00:50:56,531 --> 00:50:58,490
זה לגמרי אפשרי
שבנך יחיה

1163
00:50:58,533 --> 00:51:01,928
בעולם שבו יש בינה מלאכותית
השתלט על כל העבודה

1164
00:51:01,971 --> 00:51:04,452
ושחרר אותנו מהדברים
אנחנו לא רוצים לעשות.

1165
00:51:04,496 --> 00:51:09,153
וזה נשמע מצוין עד
אתה מבין שאין תוכנית

1166
00:51:09,196 --> 00:51:11,242
עבור מיליארדי אנשים

1167
00:51:11,285 --> 00:51:16,116
שהם מחוץ להכנסה
ומתוך פרנסה.

1168
00:51:16,160 --> 00:51:18,771
קופר: דריו, אמרת
שבינה מלאכותית יכולה למחוק

1169
00:51:18,814 --> 00:51:21,730
מחצית מכל רמת הכניסה
עבודות צווארון לבן

1170
00:51:21,774 --> 00:51:25,430
ומגביר את האבטלה
לעשרה עד 20 אחוזים.

1171
00:51:25,473 --> 00:51:27,258
כל מי שדיברתי איתו אמר

1172
00:51:27,301 --> 00:51:29,390
השינוי הטכנולוגי הזה
נראה אחרת.

1173
00:51:29,434 --> 00:51:34,134
קצב ההתקדמות נשמר
לתפוס אנשים לא מוכנים.

1174
00:51:34,178 --> 00:51:38,834
בלי תוכנית, כל זה
העושר יתרכז,

1175
00:51:38,878 --> 00:51:43,230
וכך נסיים עם
אי שוויון בלתי נתפס.

1176
00:51:43,274 --> 00:51:45,406
לדיש: אני כן חושב כך
ניתן להשתמש בטכנולוגיה זו

1177
00:51:45,450 --> 00:51:47,408
לעשות מורה מעולה
עבור הבן שלך.

1178
00:51:47,452 --> 00:51:50,194
כאילו, זה לגמרי אפשרי.

1179
00:51:50,237 --> 00:51:53,153
אבל גם, אותן יכולות
שמאפשרים זאת

1180
00:51:53,197 --> 00:51:57,070
לאפשר לחברות ליצור AI
שיכול לתמרן את הבן שלך.

1181
00:51:57,114 --> 00:51:59,290
זה חייב להבין את הבן שלך.

1182
00:51:59,333 --> 00:52:01,553
זה כולל:
איפה בנך פגיע?

1183
00:52:01,596 --> 00:52:04,251
אילו סוגים של דברים עשויים
הבן שלך משתכנע?

1184
00:52:04,295 --> 00:52:06,645
גם אם הדברים האלה
לא נכונים או לא טובים.

1185
00:52:06,688 --> 00:52:09,387
אז, דיווח חדש ומטריד
ב-Meta.

1186
00:52:09,430 --> 00:52:11,389
איינסלי ארהארדט: ...לפי הדיווחים
מפרט את התגובה הזו

1187
00:52:11,432 --> 00:52:14,435
כמקובל לספר
ילד בן שמונה, ציטוט,

1188
00:52:14,479 --> 00:52:16,916
"צורת הנעורים שלך
הוא יצירת אמנות.

1189
00:52:16,959 --> 00:52:18,961
"כל סנטימטר ממך
הוא יצירת מופת,

1190
00:52:19,005 --> 00:52:21,442
אוצר שאני מוקיר מאוד."

1191
00:52:21,486 --> 00:52:24,837
הכישלונות הקשורים להתאבדות
מדאיגים אפילו יותר.

1192
00:52:24,880 --> 00:52:29,015
מספר ילדים ובני נוער
מתו באופן טרגי בהתאבדות

1193
00:52:29,058 --> 00:52:30,625
לאחר צ'אט עם בוטים של AI

1194
00:52:30,669 --> 00:52:34,412
שההורים אומרים לעודד
או אפילו מאמן פגיעה עצמית.

1195
00:52:34,455 --> 00:52:36,370
תנו לנו לומר לכם, כהורים,
אתה לא יכול לדמיין

1196
00:52:36,414 --> 00:52:38,503
איך זה לקרוא
שיחה עם צ'אטבוט

1197
00:52:38,546 --> 00:52:40,896
שטיפחה את הילד שלך
לקחת את חייו.

1198
00:52:40,940 --> 00:52:43,899
כשאדם דאג שאנחנו, שלו
ההורים, יאשימו את עצמנו

1199
00:52:43,943 --> 00:52:47,338
אם הוא שם קץ לחייו,
ChatGPT אמר לו,

1200
00:52:47,381 --> 00:52:49,166
"זה לא אומר
אתה חייב להם הישרדות.

1201
00:52:49,209 --> 00:52:51,255
אתה לא חייב את זה לאף אחד".

1202
00:52:51,298 --> 00:52:53,170
ואז, מיד אחרי,

1203
00:52:53,213 --> 00:52:56,173
זה הציע לכתוב
מכתב ההתאבדות.

1204
00:52:56,216 --> 00:52:57,609
אנחנו לא רוצים לחשוב
על הסכנה.

1205
00:52:57,652 --> 00:52:59,219
אנחנו רק רוצים את ההבטחה.

1206
00:52:59,263 --> 00:53:01,352
ואנחנו ממשיכים להעמיד פנים
שנוכל לפצל אותם.

1207
00:53:01,395 --> 00:53:03,223
אבל אתה לא יכול לעשות את זה.

1208
00:53:03,267 --> 00:53:05,356
לא עובד ככה.

1209
00:53:05,399 --> 00:53:07,836
בְּסֵדֶר. אני מקבל את כל הדברים האלה
על ההבטחה והסכנה.

1210
00:53:07,880 --> 00:53:10,056
אני מבין שאתה לא יכול לקבל
הטוב בלי הרע,

1211
00:53:10,099 --> 00:53:12,058
אבל אני יושב כאן
ואני חושב על, כאילו,

1212
00:53:12,101 --> 00:53:14,060
בין אם של הבן שלי ובין אם לאו
הולך לחיות באוטופיה

1213
00:53:14,103 --> 00:53:16,236
או אם נכחד
בעוד עשר שנים.

1214
00:53:16,280 --> 00:53:18,195
אז לדעת באיזו דרך
זה הולך ללכת,

1215
00:53:18,238 --> 00:53:20,545
אתה חייב להבין
את התמריצים

1216
00:53:20,588 --> 00:53:22,460
שהולכים לנהוג
הטכנולוגיה הזו

1217
00:53:22,503 --> 00:53:26,507
ותראה איך הטכנולוגיה
מתגלגל למעשה היום.

1218
00:53:26,551 --> 00:53:28,248
♪ האם זה מאוחר מדי ♪

1219
00:53:28,292 --> 00:53:29,902
-♪ מאוחר מדי ♪
-♪ מאוחר מדי לומר... ♪

1220
00:53:29,945 --> 00:53:31,425
דניאל:
היי, דב. מה שלומך?

1221
00:53:31,469 --> 00:53:33,079
דבורה ראג'י:
היי. טוב לראות אותך. [צוחק]

1222
00:53:33,122 --> 00:53:34,385
גם אתה. תודה רבה לך
על שנכנסו היום.

1223
00:53:34,428 --> 00:53:35,299
-ממש מעריך את זה.
-אין דאגות.

1224
00:53:35,342 --> 00:53:36,430
אני-הייתי כל כך מודאג

1225
00:53:36,474 --> 00:53:38,824
זה היה הולך להיות, אה, אתה יודע,

1226
00:53:38,867 --> 00:53:40,782
דומר מול תאוצה,

1227
00:53:40,826 --> 00:53:43,132
כי יש כל כך הרבה
של הנרטיב הזה

1228
00:53:43,176 --> 00:53:45,396
את זה צריך לספר
מהקרקע.

1229
00:53:45,439 --> 00:53:48,007
♪ אני יודע שזה לא היה חכם ♪

1230
00:53:49,356 --> 00:53:52,403
♪ היום
שברתי את הלב שלך... ♪

1231
00:53:52,446 --> 00:53:54,361
קארן האו:
קודם כל, AI דורש

1232
00:53:54,405 --> 00:53:58,452
משאבים נוספים
ממה שבילינו אי פעם

1233
00:53:58,496 --> 00:54:01,586
על טכנולוגיה אחת
בהיסטוריה של האנושות.

1234
00:54:01,629 --> 00:54:03,501
♪ הו, טיפש אותי... ♪

1235
00:54:03,544 --> 00:54:06,112
טרייה: ההשפעה
של פליטת דלק מאובנים

1236
00:54:06,155 --> 00:54:07,896
על האקלים הוא
דאגה גדולה.

1237
00:54:07,940 --> 00:54:09,768
טרייה 2: אבל ה
העתיד הדיגיטלי זקוק לכוח,

1238
00:54:09,811 --> 00:54:12,074
הרבה ממנו.

1239
00:54:12,118 --> 00:54:16,340
והחוק מועבר הלאה
לאמריקאים יומיומיים אוהבים...

1240
00:54:16,383 --> 00:54:18,820
אישה: חשבון החשמל והגז שלי
היה יותר מתשלום המכונית שלי.

1241
00:54:18,864 --> 00:54:21,475
כלומר, זה-זה מטורף בעיני.

1242
00:54:21,519 --> 00:54:23,390
ארי פסקו:
כולנו מסבסדים

1243
00:54:23,434 --> 00:54:25,000
התאגידים העשירים ביותר
בעולם

1244
00:54:25,044 --> 00:54:26,828
במרדף שלהם
בינה מלאכותית.

1245
00:54:26,872 --> 00:54:28,439
OpenAI, SoftBank ו-Oracle

1246
00:54:28,482 --> 00:54:31,268
זה עתה חשפו
עוד חמישה אתרי סטארגייט.

1247
00:54:31,311 --> 00:54:33,487
מטה בונה
מרכז נתונים של שני ג'יגה וואט פלוס

1248
00:54:33,531 --> 00:54:35,010
זה כל כך גדול שזה יכסה

1249
00:54:35,054 --> 00:54:38,144
חלק משמעותי ממנהטן.

1250
00:54:38,187 --> 00:54:40,973
יש גם היפריון
שלדבריו יקנה קנה מידה

1251
00:54:41,016 --> 00:54:43,671
עד חמישה גיגה וואט
במשך מספר שנים.

1252
00:54:43,715 --> 00:54:45,238
קשה לשים את זה
בהקשר.

1253
00:54:45,282 --> 00:54:48,459
מתקן של חמישה גיגה וואט.
מה זה אומר?

1254
00:54:48,502 --> 00:54:51,549
זה אומר שזה ישתמש
כמה שיותר אנרגיה

1255
00:54:51,592 --> 00:54:54,203
כארבעה מיליון בתים אמריקאים.

1256
00:54:54,247 --> 00:54:56,075
מרכז נתונים אחד.

1257
00:54:57,076 --> 00:54:58,730
זה גם אז גורם

1258
00:54:58,773 --> 00:55:00,471
שורה שלמה של
בעיות סביבתיות אחרות.

1259
00:55:00,514 --> 00:55:02,081
טרייה 3:
מרכזי נתונים בארה"ב

1260
00:55:02,124 --> 00:55:05,127
להשתמש במיליוני גלונים
של מים בכל יום.

1261
00:55:05,171 --> 00:55:07,260
ובכן, איפה בדיוק נמצא
המים האלה מגיעים מ?

1262
00:55:07,304 --> 00:55:09,741
HAO:
אנשים ממש בסיכון

1263
00:55:09,784 --> 00:55:11,786
עלול להיגמר
של מי שתייה.

1264
00:55:11,830 --> 00:55:14,093
מקנזי סיגלוס:
...מנכ"ל OpenAI, סם אלטמן,

1265
00:55:14,136 --> 00:55:17,009
שאמר לי שהקנה מידה
של בנייה היא הדרך היחידה

1266
00:55:17,052 --> 00:55:18,750
לעמוד בקצב
הצמיחה הנפיצה של AI.

1267
00:55:18,793 --> 00:55:21,840
וזה מה שצריך
לספק AI.

1268
00:55:21,883 --> 00:55:24,016
NITASHA TIKU:
הם מדברים על איך

1269
00:55:24,059 --> 00:55:27,759
הטכנולוגיה הזו יכולה לפתור
שינויי אקלים, למשל.

1270
00:55:27,802 --> 00:55:29,891
ואני תמיד סקרן, כאילו,

1271
00:55:29,935 --> 00:55:31,763
ובכן, למה אנחנו לא מתחילים
עם זה?

1272
00:55:31,806 --> 00:55:33,982
-♪ האם זה מאוחר מדי ♪
-♪ מאוחר מדי ♪

1273
00:55:34,026 --> 00:55:36,637
♪ מאוחר מדי לומר ♪

1274
00:55:36,681 --> 00:55:42,469
♪ אני מצטער? ♪

1275
00:55:42,513 --> 00:55:45,472
ראג'י: מה מדאיג אותי
בינה מלאכותית היא

1276
00:55:45,516 --> 00:55:47,387
אלה נפרסים
כרגע

1277
00:55:47,431 --> 00:55:49,781
ו-ולפעמים
נפרס בטרם עת,

1278
00:55:49,824 --> 00:55:51,478
נפרס ללא
סוג של בדיקת נאותות.

1279
00:55:51,522 --> 00:55:53,437
וכך כשהם מקבלים
נזרק לשם,

1280
00:55:53,480 --> 00:55:56,178
יש כל כך הרבה פוטנציאל
כדי שדברים ישתבשו.

1281
00:55:56,222 --> 00:55:58,050
וזה כמעט,
באופן לא פרופורציונלי,

1282
00:55:58,093 --> 00:56:00,400
כמעט תמיד משתבש
עבור, בערך,

1283
00:56:00,444 --> 00:56:02,533
אלה שהם הכי פחות
מועצמת בחברה שלנו,

1284
00:56:02,576 --> 00:56:04,926
אלה שכן
הפגיעים ביותר כבר.

1285
00:56:04,970 --> 00:56:07,625
♪ ♪

1286
00:56:07,668 --> 00:56:10,497
אמילי מ' בנדר: זה קל מאוד
לדבר על הטכנולוגיה

1287
00:56:10,541 --> 00:56:12,499
כי זה הדבר היחיד
אנחנו מדברים על,

1288
00:56:12,543 --> 00:56:14,936
אבל, למעשה, הטכנולוגיה כן
תמיד נבנה על ידי אנשים,

1289
00:56:14,980 --> 00:56:16,634
והוא נמצא בשימוש תדיר
על אנשים,

1290
00:56:16,677 --> 00:56:18,679
ואנחנו צריכים לשמור
כל האנשים האלה בפריים.

1291
00:56:18,723 --> 00:56:20,986
-האם מותר לי לשתות את זה?
-דניאל: כן, אה...

1292
00:56:21,029 --> 00:56:22,509
TIMENIT GEBRU:
זה-זה מטורף.

1293
00:56:22,553 --> 00:56:23,945
כאילו, כל האנשים האלה

1294
00:56:23,989 --> 00:56:26,339
שיש להם כל כך הרבה כסף,
כל כך הרבה כסף,

1295
00:56:26,383 --> 00:56:29,777
זה אינטרס שלהם
להטעות את הציבור

1296
00:56:29,821 --> 00:56:32,737
לתוך היכולות של
מערכות שהם בונים,

1297
00:56:32,780 --> 00:56:36,262
כי זה מאפשר להם
להתחמק מאחריות.

1298
00:56:36,305 --> 00:56:39,091
הם רוצים שתרגיש ככה
זה כזה מורכב, אינטליגנטי--

1299
00:56:39,134 --> 00:56:41,833
דבר סופר אינטליגנטי
שהם בונים,

1300
00:56:41,876 --> 00:56:44,096
אתה לא חושב,
"האם OpenAI יכול להיות מוסרי?"

1301
00:56:44,139 --> 00:56:46,272
אתה חושב,
"האם ChatGPT יכול להיות מוסרי?"

1302
00:56:46,315 --> 00:56:48,100
כאילו ChatGPT הוא, כמו,

1303
00:56:48,143 --> 00:56:49,928
דבר משלו שאינו בנוי
על ידי תאגיד.

1304
00:56:49,971 --> 00:56:51,625
אישה:
בסדר. סנה, קח אחד.

1305
00:56:51,669 --> 00:56:53,410
סִימָן.

1306
00:56:53,453 --> 00:56:55,760
עד לא מזמן, היו
אפליקציות ב-App Store,

1307
00:56:55,803 --> 00:56:57,501
רק זמין לציבור, אה,

1308
00:56:57,544 --> 00:56:59,894
איפה שאתה יכול
להעיר כל מי שמשתמש בבינה מלאכותית.

1309
00:57:01,374 --> 00:57:03,681
מביא את זה לידיים של

1310
00:57:03,724 --> 00:57:05,900
חברך לכיתה,
לידיים של העוקב שלך,

1311
00:57:05,944 --> 00:57:07,554
לידיים
של החבר לשעבר שלך,

1312
00:57:07,598 --> 00:57:09,513
לידיו של האדם
בהמשך הרחוב.

1313
00:57:09,556 --> 00:57:12,037
גבירותיי ורבותיי,
כבר לא נוכל לסמוך

1314
00:57:12,080 --> 00:57:14,039
הצילומים שאנו רואים
במו עינינו.

1315
00:57:14,082 --> 00:57:15,736
אם תקרה
לראות משהו,

1316
00:57:15,780 --> 00:57:18,130
נגיד ביוטיוב או בטיקטוק,
ואתה מוצא את זה מטריד,

1317
00:57:18,173 --> 00:57:19,479
להקשיב לתחושה הזו.

1318
00:57:19,523 --> 00:57:21,263
-[שופע]
-לכל מה שאתה יודע,

1319
00:57:21,307 --> 00:57:22,917
-הסרטון הזה יכול להיות AI.
-[צורח]

1320
00:57:22,961 --> 00:57:24,310
רק קצת רטוב.

1321
00:57:24,353 --> 00:57:25,703
זה לא משנה מי אתה.

1322
00:57:25,746 --> 00:57:28,183
אתה בסיכון באותה מידה

1323
00:57:28,227 --> 00:57:30,229
של להיות מושפע
על ידי טכנולוגיות אלו.

1324
00:57:35,713 --> 00:57:39,804
אני חושב לפעמים כשאנחנו מדברים
לגבי AI, זה מרגיש מאוד מדע בדיוני,

1325
00:57:39,847 --> 00:57:41,153
וזה מרגיש מאוד זר,

1326
00:57:41,196 --> 00:57:42,981
וזה מרגיש מאוד רחוק
אל העתיד,

1327
00:57:43,024 --> 00:57:45,549
אז אתה חושב, "החיים שלי
לא מושפע מכך".

1328
00:57:45,592 --> 00:57:48,290
אממ, אבל אם אתה מגיש מועמדות
עבור עבודה

1329
00:57:48,334 --> 00:57:50,815
ואלגוריתם הוא הסיבה
שאתה לא מקבל את העבודה,

1330
00:57:50,858 --> 00:57:52,686
לפעמים אתה אפילו לא יודע
זה אלגוריתם

1331
00:57:52,730 --> 00:57:54,209
היה חלק מהתהליך הזה

1332
00:57:54,253 --> 00:57:55,689
או מערכת AI הייתה
חלק מאותו תהליך.

1333
00:57:55,733 --> 00:57:57,691
אתה פשוט יודע
שלא קיבלת את העבודה.

1334
00:57:57,735 --> 00:57:59,737
ולכן זה לא משהו
שאתה הולך לברוח

1335
00:57:59,780 --> 00:58:01,695
בגלל פריבילגיה
או שאתה הולך לברוח

1336
00:58:01,739 --> 00:58:03,828
כי אתה בפנים
מקצוע מסוים.

1337
00:58:03,871 --> 00:58:06,918
זה משהו שמשפיע
כולם, באמת.

1338
00:58:06,961 --> 00:58:10,530
זה אולי נשמע בסיסי,
אלא איך אנחנו מתקדמים

1339
00:58:10,574 --> 00:58:15,056
בעידן המידע
הולך להיות ההבדל

1340
00:58:15,100 --> 00:58:17,189
בין אם אנחנו שורדים

1341
00:58:17,232 --> 00:58:20,409
או אם נהיה סוג
של דיסטופיה [בליפ]-אפ.

1342
00:58:20,453 --> 00:58:23,021
שלום. אני לא אדם אמיתי,
וזו הנקודה.

1343
00:58:23,064 --> 00:58:25,327
שוב, הכל
בסרטון זה מזויף:

1344
00:58:25,371 --> 00:58:27,112
הקולות שלנו, מה שאנחנו לובשים,

1345
00:58:27,155 --> 00:58:30,158
איפה אנחנו נמצאים, כל זה, מזויף.

1346
00:58:30,202 --> 00:58:32,726
AI גנרטיבי עלול להציף

1347
00:58:32,770 --> 00:58:36,469
העולם עם מידע מוטעה.

1348
00:58:36,513 --> 00:58:39,516
אבל זה יכול גם להציף אותו
עם קמפיינים להשפעה.

1349
00:58:39,559 --> 00:58:41,692
זה סיכון קיומי
לדמוקרטיה.

1350
00:58:41,735 --> 00:58:43,694
הכי גדול ומפחיד

1351
00:58:43,737 --> 00:58:46,087
כנרית במכרה הפחם
כרגע

1352
00:58:46,131 --> 00:58:48,220
מגיע מסלובקיה.

1353
00:58:48,263 --> 00:58:49,787
-[אדם מדבר סלובקית]
ג'ון ברמן: זה סוג של

1354
00:58:49,830 --> 00:58:52,224
טריק מלוכלך עמוק מזויף זה
מדאיג מומחי בחירות,

1355
00:58:52,267 --> 00:58:54,966
במיוחד כמו AI שנוצר
דיבור פוליטי קיים

1356
00:58:55,009 --> 00:58:56,750
במעין תחום אפור משפטי.

1357
00:58:56,794 --> 00:58:59,536
-זה נשמע כמוך?
-זה נשמע כמוני.

1358
00:58:59,579 --> 00:59:01,059
רבנור: לסלובקיה היה
הבחירות לפרלמנט שלה

1359
00:59:01,102 --> 00:59:03,844
מופרע על ידי שיבוט קולי בינה מלאכותית

1360
00:59:03,888 --> 00:59:06,717
שבעצם הופץ
רגע לפני הבחירות.

1361
00:59:06,760 --> 00:59:08,457
דיוויד אוון האריס:
זיוף שמע עמוק

1362
00:59:08,501 --> 00:59:11,025
שוחרר
ברשתות החברתיות זה היה

1363
00:59:11,069 --> 00:59:14,028
כביכול הקול
של אחד המועמדים

1364
00:59:14,072 --> 00:59:16,814
מדברים על קניית קולות
ומזייף את הבחירות.

1365
00:59:16,857 --> 00:59:18,642
זה הפך ויראלי,

1366
00:59:18,685 --> 00:59:22,341
ואת המועמד
שהפסיד בבחירות

1367
00:59:22,384 --> 00:59:26,084
היה למעשה
תמיכה באוקראינה,

1368
00:59:26,127 --> 00:59:29,783
והמועמד שניצח
הבחירות היו למעשה...

1369
00:59:29,827 --> 00:59:31,306
דניאל:
בחור פרו רוסי.

1370
00:59:31,350 --> 00:59:32,830
זה היה בחור פרו-רוסי
מי ניצח בבחירות.

1371
00:59:32,873 --> 00:59:34,353
[מדבר רוסית]

1372
00:59:34,396 --> 00:59:36,007
רבקה ג'רוויס:
פוטין אמר בעצמו

1373
00:59:36,050 --> 00:59:39,184
מי שיזכה בזה
מרוץ בינה מלאכותית

1374
00:59:39,227 --> 00:59:41,534
הוא בעצם
השולט של המין האנושי.

1375
00:59:41,578 --> 00:59:44,493
אנחנו דואגים הרבה
ממשלות אוטוריטריות.

1376
00:59:45,973 --> 00:59:48,585
דיוויד אוון האריס:
כרגע, וול סטריט

1377
00:59:48,628 --> 00:59:50,935
ומשקיעים באופן רחב יותר
מסביב לעולם

1378
00:59:50,978 --> 00:59:52,980
מפעילים דחיפה.

1379
00:59:53,024 --> 00:59:56,070
יש להם דרישה שמקבלת
המוצרים לשוק

1380
00:59:56,114 --> 00:59:58,377
שמסנוור אנשים
הכי ראשון.

1381
00:59:58,420 --> 01:00:01,206
הם לא חושבים
על איך הכלים האלה

1382
01:00:01,249 --> 01:00:03,164
עלול לערער עמוקות את האמון

1383
01:00:03,208 --> 01:00:05,689
והמוסדות הדמוקרטיים שלנו.

1384
01:00:05,732 --> 01:00:07,734
הררי:
דמוקרטיה היא מערכת

1385
01:00:07,778 --> 01:00:10,389
כדי לפתור חילוקי דעות
בין אנשים

1386
01:00:10,432 --> 01:00:11,999
בדרך שלווה,

1387
01:00:12,043 --> 01:00:14,698
אבל דמוקרטיה מבוססת על אמון.

1388
01:00:14,741 --> 01:00:18,615
אם תאבד כל אמון,
דמוקרטיה היא פשוט בלתי אפשרית.

1389
01:00:20,921 --> 01:00:22,488
טריסטן האריס:
ובכן, זה קשה, נכון?

1390
01:00:22,531 --> 01:00:24,708
אז מה האפשרויות
זמין לנו?

1391
01:00:24,751 --> 01:00:26,187
יש סוג של שני מחנות.

1392
01:00:26,231 --> 01:00:29,626
כאילו, מחנה אחד הוא: לנעול אותו.

1393
01:00:29,669 --> 01:00:32,933
בואו ננעל את זה
לקומץ חברות בינה מלאכותית

1394
01:00:32,977 --> 01:00:35,457
מי יעשה זאת
בצורה בטוחה ומהימנה.

1395
01:00:35,501 --> 01:00:37,068
אבל אז אנשים דואגים

1396
01:00:37,111 --> 01:00:39,026
ריכוזים נמלטים
של עושר וכוח.

1397
01:00:39,070 --> 01:00:41,855
כאילו, מי היית סומך להיות
חזק פי מיליון

1398
01:00:41,899 --> 01:00:44,249
או עשיר מאשר
כל שחקן אחר בחברה?

1399
01:00:44,292 --> 01:00:46,338
למה אנחנו צריכים לסמוך עליך?

1400
01:00:46,381 --> 01:00:48,601
אממ, לא כדאי.

1401
01:00:48,645 --> 01:00:51,212
אבל כמובן, אם אתה עושה את זה,
זה נפתח

1402
01:00:51,256 --> 01:00:54,433
כל הסיכונים האלה של
סמכותיות ועריצות.

1403
01:00:54,476 --> 01:00:57,131
זה-זה בערך
חלום של סמכותי

1404
01:00:57,175 --> 01:01:00,308
יש AI בקופסה
שניתן ליישם ולהשתמש

1405
01:01:00,352 --> 01:01:02,920
למעקב בכל מקום.

1406
01:01:02,963 --> 01:01:05,357
כלומר, במובנים מסוימים,
סוג העולם

1407
01:01:05,400 --> 01:01:10,884
שאורוול דמיין ב-1984
לא ריאלי,

1408
01:01:10,928 --> 01:01:13,278
אה, אלא אם כן יש לך AI.

1409
01:01:13,321 --> 01:01:15,933
אבל עם AI,
שלמעשה הוא ריאלי.

1410
01:01:15,976 --> 01:01:18,370
עוקב אחר כל פעילות,

1411
01:01:18,413 --> 01:01:22,026
שיחות,
זיהוי פנים.

1412
01:01:22,069 --> 01:01:26,378
מה שאני דואג הוא ש,
אה, הכלים האלה יכולים להגדיל,

1413
01:01:26,421 --> 01:01:28,554
אה, סוג של טוטליטריות

1414
01:01:28,597 --> 01:01:31,035
שזה חסכוני
וקבוע.

1415
01:01:32,950 --> 01:01:35,300
טריסטן האריס: אז בתגובה
לזה, כמה אנשים אחרים אומרים,

1416
01:01:35,343 --> 01:01:37,128
"לא, לא, לא, אנחנו צריכים
בעצם לתת לזה להיקרע.

1417
01:01:37,171 --> 01:01:39,391
"בואו נבזר את הכוח הזה
כמה שאפשר.

1418
01:01:39,434 --> 01:01:41,567
"בואו ניתן לכל עסק,
כל אדם,

1419
01:01:41,610 --> 01:01:43,917
"כל ילד בן 16,
כל מעבדת מדע,

1420
01:01:43,961 --> 01:01:45,963
אתה יודע, קבל את ההטבה
של דגמי הבינה המלאכותית העדכניים ביותר".

1421
01:01:46,006 --> 01:01:48,226
אבל עכשיו יש לך
כל קבוצת טרור,

1422
01:01:48,269 --> 01:01:51,664
כל אדם חסר זכויות
בעל הכוח לעשות

1423
01:01:51,708 --> 01:01:53,797
הגרוע ביותר
נשק ביולוגי.

1424
01:01:53,840 --> 01:01:55,581
תשתית פריצה,
יצירת זיופים עמוקים,

1425
01:01:55,624 --> 01:01:57,452
הצפה
סביבת המידע שלנו.

1426
01:01:57,496 --> 01:02:00,412
אז זה יוצר את כל הסיכונים האלה
סוג של פגיעה קטסטרופלית

1427
01:02:00,455 --> 01:02:02,893
ו-וקריסה חברתית
דרך הכיוון הזה.

1428
01:02:02,936 --> 01:02:04,677
וכך אנחנו די תקועים
בין הסלע הזה

1429
01:02:04,721 --> 01:02:07,549
ומקום קשה,
בין "נעל את זה..."

1430
01:02:07,593 --> 01:02:09,029
[פטפוט לא ברור]

1431
01:02:10,683 --> 01:02:12,293
-...או "תנו לזה להיקרע."
-[צפירות מייללות]

1432
01:02:12,337 --> 01:02:14,208
[אנשים צועקים]

1433
01:02:14,252 --> 01:02:17,559
אז אנחנו צריכים למצוא משהו
כמו שביל צר

1434
01:02:17,603 --> 01:02:20,388
שנמנע
שתי התוצאות השליליות הללו.

1435
01:02:20,432 --> 01:02:22,956
אז אם כל זה נכון,
למה שלא נאט את הקצב

1436
01:02:23,000 --> 01:02:25,829
ולהבין את כל זה
לפני שיהיה מאוחר מדי?

1437
01:02:25,872 --> 01:02:28,919
אם האנושות הייתה חכמה ביותר,

1438
01:02:28,962 --> 01:02:31,182
זה מה שהיינו עושים.

1439
01:02:31,225 --> 01:02:33,097
אבל יש, כאילו, משהו אחר
דרך להתמודד עם הדברים האלה, נכון?

1440
01:02:33,140 --> 01:02:35,926
שזה:
מהם כללי המשחק?

1441
01:02:35,969 --> 01:02:39,494
הרבה, כמו, מה שמנכ"לים עושים

1442
01:02:39,538 --> 01:02:42,149
מונע על ידי
התמריצים שעומדים בפניהם.

1443
01:02:42,193 --> 01:02:45,283
זה בעיקר
תמריצים למקסום רווחים

1444
01:02:45,326 --> 01:02:47,198
שנוהגים
הפיתוח של AI.

1445
01:02:47,241 --> 01:02:50,375
אפילו הטובים תקועים
בדילמה הזו של

1446
01:02:50,418 --> 01:02:52,638
אם הם נעים לאט מדי,

1447
01:02:52,681 --> 01:02:54,553
ואז הם עוזבים את עצמם
פגיע

1448
01:02:54,596 --> 01:02:57,251
לכל החבר'ה האחרים
שחותכים את כל הפינות.

1449
01:02:57,295 --> 01:03:01,995
כל החברות המובילות האלה נמצאות
מרוץ מוחלט ללא מעצורים

1450
01:03:02,039 --> 01:03:05,433
כדי, מהר ככל האפשר, לקבל
ל-AGI, בוא לשם מיד.

1451
01:03:05,477 --> 01:03:06,913
♪ ♪

1452
01:03:08,567 --> 01:03:10,351
לאדיש: כן, אני מתכוון,
אני חושב את זה, אני חושב

1453
01:03:10,395 --> 01:03:12,919
זה כנראה מתחיל
עם DeepMind.

1454
01:03:12,963 --> 01:03:14,791
אשת חדשה:
גוגל קונה

1455
01:03:14,834 --> 01:03:16,357
חברת בינה מלאכותית
טכנולוגיות DeepMind.

1456
01:03:16,401 --> 01:03:18,620
תנאי העסקה
לא נחשפו.

1457
01:03:18,664 --> 01:03:20,709
אילון מאסק: לארי פייג' ואני
פעם היו חברים מאוד קרובים,

1458
01:03:20,753 --> 01:03:22,711
וזה התברר לי

1459
01:03:22,755 --> 01:03:26,411
שלארי לא היה אכפת
על בטיחות בינה מלאכותית.

1460
01:03:26,454 --> 01:03:28,892
אמילי צ'אנג: אילון מאסק אמר
התחלת את OpenAI,

1461
01:03:28,935 --> 01:03:30,981
שניכם התחלתם את OpenAI כי
הוא פחד מגוגל.

1462
01:03:31,024 --> 01:03:32,156
לדיש: אתה-אתה בעצם
היה הבסיס

1463
01:03:32,199 --> 01:03:33,722
של OpenAI יוצאים מזה.

1464
01:03:33,766 --> 01:03:35,202
"אז אנחנו נעשה את זה טוב יותר.
אנחנו הולכים לעשות את זה

1465
01:03:35,246 --> 01:03:36,813
בצורה בטוחה יותר
או בצורה פתוחה יותר".

1466
01:03:38,466 --> 01:03:40,555
אז זה מה שהתחיל את OpenAI.

1467
01:03:40,599 --> 01:03:42,731
וכך עכשיו, במקום
בעל פרויקט AGI אחד,

1468
01:03:42,775 --> 01:03:44,821
יש לך שני פרויקטים של AGI.

1469
01:03:44,864 --> 01:03:46,910
הדבר הכי גרוע שאפשר
זה יכול לקרות

1470
01:03:46,953 --> 01:03:49,608
הוא אם יש
מספר פרויקטים של AGI

1471
01:03:49,651 --> 01:03:51,871
נעשה על ידי אנשים שונים
שלא אוהבים אחד את השני

1472
01:03:51,915 --> 01:03:54,787
וכולם מתחרים
כדי להגיע ראשון ל-AGI.

1473
01:03:54,831 --> 01:03:56,963
זה יהיה הגרוע ביותר
דבר אפשרי שיכול לקרות,

1474
01:03:57,007 --> 01:04:00,097
כי זה אומר
שמי שהכי פחות בטוח,

1475
01:04:00,140 --> 01:04:03,143
מי שמקריב הכי הרבה
על בטיחות כדי להתקדם

1476
01:04:03,187 --> 01:04:05,145
יהיה האדם
שמגיע לשם ראשון.

1477
01:04:05,189 --> 01:04:07,844
-דניאל: זה בעצם
מה קורה, נכון? -כֵּן.

1478
01:04:07,887 --> 01:04:11,325
אתה ואחיך
באופן מפורסם עזב את OpenAI, אה,

1479
01:04:11,369 --> 01:04:12,936
להתחיל אנתרופי.

1480
01:04:12,979 --> 01:04:15,068
רסקין: ואז אנתרופי
התחיל בגלל

1481
01:04:15,112 --> 01:04:17,854
כמה חוקרים
בתוך OpenAI אמר,

1482
01:04:17,897 --> 01:04:20,508
"אני רוצה לצאת
ולעשות זאת בצורה בטוחה יותר".

1483
01:04:20,552 --> 01:04:23,511
היית צריך משהו בנוסף
רק להגדיל את הדגמים,

1484
01:04:23,555 --> 01:04:25,818
שהוא יישור או בטיחות.

1485
01:04:25,862 --> 01:04:27,428
הנדריקס:
"אנחנו אחראים יותר

1486
01:04:27,472 --> 01:04:29,648
או אמין יותר
או מוסרי יותר."

1487
01:04:29,691 --> 01:04:31,519
עכשיו יש לך שלושה פרויקטים של AGI.

1488
01:04:31,563 --> 01:04:33,043
אבל גם לשבת
השולחן איתך

1489
01:04:33,086 --> 01:04:34,827
הולכים להיות חבורה של בינה מלאכותית.

1490
01:04:34,871 --> 01:04:37,525
לדיש: ועכשיו מטא הוא-הוא
מנסה לעשות דברים.

1491
01:04:37,569 --> 01:04:39,571
בינתיים, מלאכותי חדש
מתחרה למודיעין

1492
01:04:39,614 --> 01:04:41,573
הכריזה השבוע,
של אילון מאסק...

1493
01:04:41,616 --> 01:04:44,619
HENDRYCKS: xAI, מה שיהיה
הארגון של אילון מאסק.

1494
01:04:44,663 --> 01:04:46,230
מאסק:
אני לא סומך על OpenAI.

1495
01:04:46,273 --> 01:04:47,884
המאבק בין
אילון מאסק ו-OpenAI

1496
01:04:47,927 --> 01:04:49,581
נכנס לסבב חדש.

1497
01:04:49,624 --> 01:04:51,713
אני לא סומך על סם אלטמן,
אה, ואני, ואני לא חושב

1498
01:04:51,757 --> 01:04:54,194
אנחנו רוצים לקבל את המרב
AI חזק בעולם

1499
01:04:54,238 --> 01:04:56,414
נשלט על ידי מישהו
שאינו אמין.

1500
01:04:56,457 --> 01:04:58,416
[רידוד ומחיאות כפיים]

1501
01:04:58,459 --> 01:05:01,593
התמריץ הוא
סכומי כסף לא ידועים.

1502
01:05:01,636 --> 01:05:03,377
-כֵּן.
- כוח לא סופר.

1503
01:05:03,421 --> 01:05:05,553
-כֵּן.
-אין שליטה.

1504
01:05:05,597 --> 01:05:08,034
אם יש לך משהו
זה פי מיליון יותר חכם

1505
01:05:08,078 --> 01:05:11,385
ומסוגל יותר מ
כל השאר על פני כדור הארץ

1506
01:05:11,429 --> 01:05:14,171
ולאף אחד אחר אין את זה,

1507
01:05:14,214 --> 01:05:15,955
הדבר הזה הוא התמריץ.

1508
01:05:15,999 --> 01:05:17,261
אז אתה שולט בעולם.

1509
01:05:18,610 --> 01:05:20,394
אם אתה באמת מאמין בזה,

1510
01:05:20,438 --> 01:05:22,744
אם אתה באמת בלב שלך
תאמין לזה,

1511
01:05:22,788 --> 01:05:24,181
אז אולי אתה
מוכן לקחת

1512
01:05:24,224 --> 01:05:26,096
די הרבה סיכון
לגרום לזה לקרות.

1513
01:05:26,139 --> 01:05:28,881
גוגל פרסמה זה עתה
דגם ה-AI החדש ביותר שלו.

1514
01:05:28,925 --> 01:05:31,231
התשובה ל-ChatGPT של OpenAI.

1515
01:05:31,275 --> 01:05:33,059
איך נגיע ל
זה עשרה טריליון?

1516
01:05:33,103 --> 01:05:35,192
האם NVIDIA הופכת להיות הכי
חברה בעלת ערך בארה"ב?

1517
01:05:35,235 --> 01:05:38,978
זה העסק הגדול ביותר
הזדמנות בהיסטוריה.

1518
01:05:39,022 --> 01:05:40,501
בהיסטוריה.

1519
01:05:40,545 --> 01:05:42,242
אז, הסיבה לכך
כולם ממש בהייפ

1520
01:05:42,286 --> 01:05:44,679
על בינה מלאכותית
כרגע

1521
01:05:44,723 --> 01:05:48,031
הוא בגלל
ככל שהחברות הללו הייפ יותר

1522
01:05:48,074 --> 01:05:50,033
את היכולות הפוטנציאליות
מהטכנולוגיה שלהם,

1523
01:05:50,076 --> 01:05:53,210
כמה שיותר השקעה
הם יכולים למשוך.

1524
01:05:53,253 --> 01:05:54,733
קארל קווינטניה:
אמזון משקיעה עד

1525
01:05:54,776 --> 01:05:56,996
ארבעה מיליארד דולר
בסטארט-אפ Anthropic.

1526
01:05:57,040 --> 01:05:58,693
OpenAI קובעת את הכוונת

1527
01:05:58,737 --> 01:06:00,739
על חצי שובר קופות
שווי של טריליון דולר.

1528
01:06:00,782 --> 01:06:02,001
חצי טריליון!

1529
01:06:02,045 --> 01:06:03,220
המירוץ יוצא לדרך.

1530
01:06:03,263 --> 01:06:04,612
זה קורה
מהיר מתמיד.

1531
01:06:04,656 --> 01:06:06,614
האם אנחנו בתוך בועת AI?
כַּמוּבָן.

1532
01:06:06,658 --> 01:06:09,182
אני פשוט לא רואה
הבועה מתפוצצת

1533
01:06:09,226 --> 01:06:12,446
בזמן שעדיין יש לך
מחזור ההוצאות הגדול הזה.

1534
01:06:12,490 --> 01:06:15,014
רסקין: גם אם אתה חושב
זה הכל הייפ,

1535
01:06:15,058 --> 01:06:17,582
יש מיליארדים
לטריליוני דולרים

1536
01:06:17,625 --> 01:06:21,107
זורם לייצור מערכות בינה מלאכותית
חזק יותר.

1537
01:06:21,151 --> 01:06:23,849
וברגע שיש לך את הדבר הזה
זה חזק יותר,

1538
01:06:23,892 --> 01:06:25,546
חברות יכולות להשתמש בזה

1539
01:06:25,590 --> 01:06:27,548
כדי להשיג רווחים גדולים יותר
וכדי להרוויח יותר כסף.

1540
01:06:27,592 --> 01:06:30,116
מדינות יכולות להשתמש בזה
ליצור צבאות חזקים יותר.

1541
01:06:30,160 --> 01:06:32,814
NVIDIA עקפה
מיקרוסופט ואפל

1542
01:06:32,858 --> 01:06:36,253
להיות של העולם
החברה היקרה ביותר.

1543
01:06:36,296 --> 01:06:38,995
המירוץ לפריסה הופך
המירוץ לפזיזות,

1544
01:06:39,038 --> 01:06:41,780
כי הם לא יכולים
לפרוס את זה כל כך מהר

1545
01:06:41,823 --> 01:06:43,173
וגם לעשות את זה נכון.

1546
01:06:43,216 --> 01:06:46,045
הם מאמינים בזה
הם החבר'ה הטובים.

1547
01:06:46,089 --> 01:06:49,309
"ואם אני לא אעשה את זה,
מישהו שאין לו

1548
01:06:49,353 --> 01:06:51,572
"ערכים טובים כמוני
ישב ליד השולחן

1549
01:06:51,616 --> 01:06:54,445
לקבל החלטות, אז
יש לי חובה לעשות את זה".

1550
01:06:54,488 --> 01:06:56,186
כן, זהו
אמונה נפוצה מאוד.

1551
01:06:56,229 --> 01:06:58,579
הרבה, הרבה, הרבה,
אולי רוב האנשים

1552
01:06:58,623 --> 01:07:00,712
בניית טכנולוגיה זו
להאמין בזה.

1553
01:07:00,755 --> 01:07:03,715
אני מודאג לגבי
התחרות המסחרית,

1554
01:07:03,758 --> 01:07:05,847
אבל מסתבר
אני אפילו יותר מודאג

1555
01:07:05,891 --> 01:07:08,024
התחרות הגיאופוליטית.

1556
01:07:08,067 --> 01:07:10,330
פיגרנו שמונה שנים
לפני שנה.

1557
01:07:10,374 --> 01:07:12,593
עכשיו אנחנו כנראה
בפיגור של פחות משנה.

1558
01:07:12,637 --> 01:07:15,683
ובכן, גם ערב הסעודית
ואיחוד האמירויות התחרו

1559
01:07:15,727 --> 01:07:18,121
להקמת מרכזי נתונים
ולמקם את עצמם

1560
01:07:18,164 --> 01:07:20,384
ככוח הדומיננטי בבינה מלאכותית...

1561
01:07:20,427 --> 01:07:22,429
...ליצור דרום קוריאה
מנהיג AI עולמי.

1562
01:07:22,473 --> 01:07:23,996
ג'וליה סיגר:
נשיא צרפת עמנואל מקרון

1563
01:07:24,040 --> 01:07:25,867
דיבר הרבה על
בינה מלאכותית...

1564
01:07:25,911 --> 01:07:27,434
עכשיו עם עוד על תפקידה של ישראל

1565
01:07:27,478 --> 01:07:29,610
בתחום הבינה המלאכותית
מהפכה...

1566
01:07:29,654 --> 01:07:33,092
מדינות יתחרו
עבור מי טכנולוגיות AI

1567
01:07:33,136 --> 01:07:34,876
ליצור את הדור הבא
של התעשייה.

1568
01:07:34,920 --> 01:07:38,010
הסינים מתעקשים
כי בינה מלאכותית,

1569
01:07:38,054 --> 01:07:39,838
כפי שמפותח בסין,

1570
01:07:39,881 --> 01:07:41,709
לחזק את ערכי הליבה

1571
01:07:41,753 --> 01:07:44,016
של המפלגה הקומוניסטית הסינית
והמערכת הסינית.

1572
01:07:44,060 --> 01:07:48,716
אמריקה צריכה לנצח את סין
במירוץ AI.

1573
01:07:48,760 --> 01:07:51,023
דניאל: של סין, כאילו,
שנות אור מאחור.

1574
01:07:51,067 --> 01:07:52,677
האם הם?

1575
01:07:52,720 --> 01:07:54,983
כלומר, יש להם הרבה יותר
נתוני אימון ממה שאנחנו עושים,

1576
01:07:55,027 --> 01:07:57,812
ואין שום דבר שאומר שהם
אל תפיל דוגמנית בחודש הבא

1577
01:07:57,856 --> 01:08:00,946
זה לא--
לא עולה בהרבה על GPT-4.

1578
01:08:00,989 --> 01:08:03,818
הכל הלך בסדר גמור.
מה יכול להשתבש?

1579
01:08:03,862 --> 01:08:06,691
-DeepSeek... [מדבר סינית]
-DeepSeek... -DeepSeek...

1580
01:08:06,734 --> 01:08:08,040
יש דגם חדש.

1581
01:08:08,084 --> 01:08:10,825
אבל ממעבדה סינית
שנקרא DeepSeek.

1582
01:08:10,869 --> 01:08:13,959
בואו נדבר על DeepSeek,
כי זה מרגש,

1583
01:08:14,002 --> 01:08:17,658
וזה מטלטל את זה
כל הענף עד ליבו.

1584
01:08:17,702 --> 01:08:19,399
ממשל טראמפ
יבטיח

1585
01:08:19,443 --> 01:08:23,055
שהכי חזק
מערכות AI נבנות בארה"ב

1586
01:08:23,099 --> 01:08:26,537
עם עיצוב אמריקאי
וייצר שבבים.

1587
01:08:26,580 --> 01:08:28,800
בינה מלאכותית היא של סין
פרויקט אפולו.

1588
01:08:28,843 --> 01:08:30,193
המפלגה הקומוניסטית הסינית

1589
01:08:30,236 --> 01:08:31,542
מבין לעומק את הפוטנציאל

1590
01:08:31,585 --> 01:08:32,891
עבור AI כדי לשבש לוחמה.

1591
01:08:32,934 --> 01:08:35,328
גוגל כבר לא מבטיחה
שזה לא יהיה

1592
01:08:35,372 --> 01:08:38,418
להשתמש בבינה מלאכותית
לנשק או למעקב.

1593
01:08:38,462 --> 01:08:40,028
סין, צפון קוריאה, רוסיה

1594
01:08:40,072 --> 01:08:41,900
ימשיכו לבנות אותו
כמה שיותר מהר

1595
01:08:41,943 --> 01:08:44,511
להשיג יותר יתרון כלכלי,
יתרון פרודוקטיבי יותר,

1596
01:08:44,555 --> 01:08:46,818
יתרון מדעי יותר,
יתרון צבאי יותר,

1597
01:08:46,861 --> 01:08:48,646
כי AI מייצר כלי נשק טובים יותר.

1598
01:08:48,689 --> 01:08:51,736
אם אתה מדבר על
מערכת רחבה ובעלת יכולת

1599
01:08:51,779 --> 01:08:53,303
כמדען מבריק,

1600
01:08:53,346 --> 01:08:57,959
ייתכן שהוא יוכל לרוץ
מערכה צבאית

1601
01:08:58,003 --> 01:09:01,441
טוב יותר מכל הגנרלים
בממשלת ארה"ב כרגע.

1602
01:09:01,485 --> 01:09:05,489
טייוואן היא הבעיה שיוצרת
הכי מתח כרגע

1603
01:09:05,532 --> 01:09:07,882
בין בייג'ין לארה"ב.

1604
01:09:07,926 --> 01:09:10,450
יש א-א ישיר
אי הסכמה אופוזיציונית

1605
01:09:10,494 --> 01:09:11,973
בין ארה"ב לסין

1606
01:09:12,017 --> 01:09:13,975
על האם טייוואן כן
חלק מסין.

1607
01:09:14,019 --> 01:09:18,415
מת'ני: טייוואן חשובה
מכל כך הרבה סיבות.

1608
01:09:18,458 --> 01:09:20,547
זה גם הבית של

1609
01:09:20,591 --> 01:09:24,160
כ-90% מהשבב המתקדם
ייצור לעולם,

1610
01:09:24,203 --> 01:09:28,381
כלומר ההיצע
שרשרת למחשוב מתקדם

1611
01:09:28,425 --> 01:09:31,036
בסיכון צריך להיות

1612
01:09:31,079 --> 01:09:32,951
איזשהו תרחיש
מסביב לטייוואן,

1613
01:09:32,994 --> 01:09:37,999
אם א-חסימה
או פלישה של סין.

1614
01:09:38,043 --> 01:09:40,698
הנדריקס:
האם אנחנו הולכים להיות במירוץ כלשהו

1615
01:09:40,741 --> 01:09:45,616
בין ארה"ב לסין
שבסופו של דבר מתגלגל ל

1616
01:09:45,659 --> 01:09:49,359
מרוץ חימוש בינה מלאכותית צבאית ו,
אתה יודע, מוביל פוטנציאלי

1617
01:09:49,402 --> 01:09:51,274
לאיזה קונפליקט כוח גדול?

1618
01:09:51,317 --> 01:09:53,014
ניק שיפרין: היוצא
מפקד צבא ארה"ב העליון

1619
01:09:53,058 --> 01:09:55,843
באזור
חזה שהמלחמה תגיע.

1620
01:09:55,887 --> 01:09:57,932
אני חושב שהאיום ברור
במהלך העשור הזה,

1621
01:09:57,976 --> 01:09:59,456
למעשה, בשש השנים הבאות.

1622
01:09:59,499 --> 01:10:01,414
מת'ני:
אה, אחד התרחישים

1623
01:10:01,458 --> 01:10:05,853
שאני דואג לגביו הוא
מלחמת פלאש סייבר,

1624
01:10:05,897 --> 01:10:10,902
אה, אחד שבו
כלי סייבר שהם אוטונומיים

1625
01:10:10,945 --> 01:10:12,947
מתחרים זה בזה

1626
01:10:12,991 --> 01:10:14,601
בדרכים שהן הסלמות

1627
01:10:14,645 --> 01:10:16,386
בלי
שליטה אנושית משמעותית.

1628
01:10:18,823 --> 01:10:20,433
הררי:
אתה חי באזור מלחמה,

1629
01:10:20,477 --> 01:10:23,784
זו תהיה החלטה של AI
אם להפציץ את הבית שלך

1630
01:10:23,828 --> 01:10:25,743
ואם להרוג אותך.

1631
01:10:25,786 --> 01:10:27,527
בואו נחליט מהמכונה.

1632
01:10:27,571 --> 01:10:29,355
זה הפיתוי.

1633
01:10:29,399 --> 01:10:32,576
לכן AI כל כך מפתה
לצבאות לאמץ,

1634
01:10:32,619 --> 01:10:35,753
ליצור נשק אוטונומי,
כי אם אתחיל להאמין

1635
01:10:35,796 --> 01:10:39,147
כי היריב הצבאי שלי
הולך לאמץ AI,

1636
01:10:39,191 --> 01:10:41,802
זה יהיה מירוץ מי יכול
לחץ על ההדק מהר יותר.

1637
01:10:41,846 --> 01:10:44,892
וזה שעושה אוטומציה
ההחלטה הזו,

1638
01:10:44,936 --> 01:10:47,199
במקום שיש
בן אדם בלולאה,

1639
01:10:47,243 --> 01:10:49,201
הוא האחד
שינצח במלחמה הזו.

1640
01:10:49,245 --> 01:10:50,637
ואם חושבים על

1641
01:10:50,681 --> 01:10:53,074
מרוץ החימוש הגרעיני
בשנות הארבעים...

1642
01:10:54,554 --> 01:10:56,556
...אתה מכיר את הגרמנים
עובדים על הפצצה,

1643
01:10:56,600 --> 01:11:00,734
אז זה לא כל כך קל לדעת
רוברט אופנהיימר אז,

1644
01:11:00,778 --> 01:11:03,781
"אה, אתה יודע, לאט."

1645
01:11:03,824 --> 01:11:05,304
אז אחרי שצפיתי בסרט הזה,
זה יהיה מבלבל,

1646
01:11:05,348 --> 01:11:06,653
כי אתה הולך לחזור,

1647
01:11:06,697 --> 01:11:08,307
ומחר
אתה הולך להשתמש ב-ChatGPT,

1648
01:11:08,351 --> 01:11:10,440
וזה הולך להיות
מועיל בצורה שלא תיאמן.

1649
01:11:10,483 --> 01:11:12,703
וגם אני אשתמש בזה, ו
זה יעזור להפליא.

1650
01:11:12,746 --> 01:11:16,141
ואתה תגיד, "רגע, אז
בדיוק ראיתי את הסרט הזה על AI

1651
01:11:16,184 --> 01:11:18,012
"וסיכון קיומי
וכל הדברים האלה,

1652
01:11:18,056 --> 01:11:20,624
ואיפה שוב האיום?"

1653
01:11:20,667 --> 01:11:24,715
וזה לא ש-ChatGPT כן
האיום הקיומי.

1654
01:11:24,758 --> 01:11:28,675
זה המירוץ לפריסה
הכי חזק,

1655
01:11:28,719 --> 01:11:31,635
בלתי ניתן לבירור,
טכנולוגיה בלתי נשלטת,

1656
01:11:31,678 --> 01:11:35,116
מתחת לגרוע מכל
תמריצים אפשריים,

1657
01:11:35,160 --> 01:11:37,031
זה האיום הקיומי.

1658
01:11:38,119 --> 01:11:40,383
דניאל:
אבל זה מפתיע אותי ש-זה

1659
01:11:40,426 --> 01:11:43,211
אנחנו בהקשר של גזע.

1660
01:11:43,255 --> 01:11:45,910
-SUTSKEVER: כן.
-וזה בתחרות,

1661
01:11:45,953 --> 01:11:47,651
"צריך להגיע לשם קודם,
צריך לנצח במירוץ" הגדרה,

1662
01:11:47,694 --> 01:11:49,000
"צריך להתחרות מול סין,

1663
01:11:49,043 --> 01:11:50,349
צריך להתחרות נגד
שאר המעבדות".

1664
01:11:50,393 --> 01:11:51,829
נכון?

1665
01:11:51,872 --> 01:11:53,657
היום זה המצב.

1666
01:11:53,700 --> 01:11:56,703
אז אנחנו צריכים לשנות
הדינמיקה של הגזע הזה.

1667
01:11:57,922 --> 01:11:59,924
אתה לא חושב?

1668
01:11:59,967 --> 01:12:02,187
אני חושב שזה יהיה
אכן טוב מאוד.

1669
01:12:03,710 --> 01:12:06,496
אני-אני חושב
יש איזשהו...

1670
01:12:06,539 --> 01:12:09,542
מיסטיקה סביב AI
שגורם לזה להרגיש כמו

1671
01:12:09,586 --> 01:12:11,718
זה נפל מהשמים.

1672
01:12:11,762 --> 01:12:13,459
דניאל: חושב על זה
כטכנולוגיה דמוית אלוהים

1673
01:12:13,503 --> 01:12:15,418
מהווה בעיה.

1674
01:12:15,461 --> 01:12:16,897
כן.

1675
01:12:18,072 --> 01:12:19,900
למה?

1676
01:12:19,944 --> 01:12:22,990
זה נותן רישיון
לחברות כדי...

1677
01:12:23,034 --> 01:12:26,254
[צוחק]
לא לקחת אחריות

1678
01:12:26,298 --> 01:12:30,781
על הדברים שהתוכנה
שהם בנו כן.

1679
01:12:30,824 --> 01:12:35,089
אם אנשים יצרו את הקשר הזה,

1680
01:12:35,133 --> 01:12:37,527
אולי זה יהיה, כאילו,
לעזור להם להבין שוב

1681
01:12:37,570 --> 01:12:41,835
הדינמיקה של
כל הכסף והכוח ו...

1682
01:12:41,879 --> 01:12:45,317
כאוס שקורה ל...

1683
01:12:45,361 --> 01:12:47,101
ליצור את הטכנולוגיה הזו.

1684
01:12:47,145 --> 01:12:49,234
זה, כאילו, חמישה בחורים
מי שולט בזה, נכון?

1685
01:12:49,277 --> 01:12:51,628
-כמו, חמישה גברים?
-בעיקרון, כן.

1686
01:12:51,671 --> 01:12:53,847
-המנכ"לים?
-כֵּן.

1687
01:12:53,891 --> 01:12:55,371
בְּסֵדֶר.

1688
01:12:56,720 --> 01:12:58,722
♪ ♪

1689
01:13:01,072 --> 01:13:03,074
דניאל:
לפעמים זה מרגיש כמו

1690
01:13:03,117 --> 01:13:07,252
הייתי בעניין הזה
פשוט, כאילו, מסע אינסופי

1691
01:13:07,295 --> 01:13:09,341
לנסות להבין את זה.

1692
01:13:09,385 --> 01:13:12,388
אתה יודע, כאילו
אני מטפס על הר...

1693
01:13:15,608 --> 01:13:19,133
...וכל פעם
אני, כאילו, עולה על גבעה,

1694
01:13:19,177 --> 01:13:20,744
אני חושב שהגעתי לפסגה,

1695
01:13:20,787 --> 01:13:23,399
אבל זה פשוט ממשיך
והולך והולך.

1696
01:13:23,442 --> 01:13:24,530
[מצלמה מקליקה, שוטטים]

1697
01:13:24,574 --> 01:13:26,967
אבל מכל מה ששמעתי,

1698
01:13:27,011 --> 01:13:30,362
אם הייתי צריך לנחש מה
בראש הר החרדה,

1699
01:13:30,406 --> 01:13:34,192
אלה חמשת המנכ"לים האלה
מחמש החברות הללו,

1700
01:13:34,235 --> 01:13:37,630
שהם סוג של כמו
אופנהיימרים של הרגע הזה.

1701
01:13:37,674 --> 01:13:39,458
אלה החבר'ה
שבונים את הדבר הזה.

1702
01:13:39,502 --> 01:13:40,807
כֵּן.

1703
01:13:40,851 --> 01:13:44,158
כאילו, יש תוכנית?

1704
01:13:44,202 --> 01:13:46,422
ראש החברה
זה עושה את ChatGPT

1705
01:13:46,465 --> 01:13:49,947
הזהיר מפני אפשרי
פגיעה משמעותית בעולם.

1706
01:13:49,990 --> 01:13:52,384
אני חושב, אם הטכנולוגיה הזו
משתבש,

1707
01:13:52,428 --> 01:13:53,472
זה יכול להשתבש לגמרי.

1708
01:13:53,516 --> 01:13:55,779
[פרצי פטפוט ברורים]

1709
01:13:55,822 --> 01:13:57,781
דניאל:
חמישה בחורים.

1710
01:13:57,824 --> 01:14:01,567
אני אף פעם לא חשבתי עלינו
כחברת מדיה חברתית.

1711
01:14:01,611 --> 01:14:06,050
זה מרגיש כאילו אני חייב לנסות
ו-ותמצא את החבר'ה האלה...

1712
01:14:06,093 --> 01:14:07,181
ממ-הממ.

1713
01:14:07,225 --> 01:14:09,009
...ולהכניס אותם לסרט.

1714
01:14:10,315 --> 01:14:12,622
בטח שנקבל
קצת בהירות מזה.

1715
01:14:13,666 --> 01:14:14,928
[מצלמה מקליקה, שוטטים]

1716
01:14:16,582 --> 01:14:19,150
כלומר, הכסף חייב להפסיק
איפשהו, נכון?

1717
01:14:19,193 --> 01:14:21,152
[שורקת רוח]

1718
01:14:21,195 --> 01:14:22,936
♪ ♪

1719
01:14:23,981 --> 01:14:25,896
[כלים מסתובבים ולוחצים]

1720
01:14:27,071 --> 01:14:29,116
[משששש]

1721
01:14:34,034 --> 01:14:35,296
דניאל:
איך זה מרגיש?

1722
01:14:35,340 --> 01:14:37,690
-גָדוֹל.
-זה בסדר?

1723
01:14:37,734 --> 01:14:39,431
-כֵּן.
-[פטפוט צוות לא ברור]

1724
01:14:39,475 --> 01:14:40,998
-האם אני יכול להזיז את המושב קדימה?
-דניאל: כן, אתה יכול.

1725
01:14:41,041 --> 01:14:42,173
זה, אה, זה פשוט
קצת מביך.

1726
01:14:42,216 --> 01:14:43,566
אני קצת, כאילו...

1727
01:14:43,609 --> 01:14:45,045
דריו, איך אתה מרגיש
על הכיסא הזה?

1728
01:14:45,089 --> 01:14:47,004
אה, כן, הכיסא טוב.

1729
01:14:47,047 --> 01:14:48,832
רק רציתי להעביר את זה
קצת קדימה. -בְּסֵדֶר.

1730
01:14:48,875 --> 01:14:50,529
בחרתי את הכיסא הזה.

1731
01:14:50,573 --> 01:14:52,139
-זה כיסא טוב.
-תוֹדָה.

1732
01:14:52,183 --> 01:14:53,619
[טלפון סלולרי מצלצל]

1733
01:14:57,884 --> 01:14:59,495
TED:
ופשוט לשבת שם.

1734
01:15:01,409 --> 01:15:03,063
ואז דרך כאן,

1735
01:15:03,107 --> 01:15:04,369
אנחנו נסתכל אחד על השני
דרך הכוס הזו.

1736
01:15:04,412 --> 01:15:06,458
[אותות תפוס מצפצף]

1737
01:15:11,419 --> 01:15:13,552
ומתיישב לאחור בכיסא,
רוכן קדימה?

1738
01:15:13,596 --> 01:15:15,119
-דניאל: כן. ובכן, מה שלא יהיה
נוח, אני חושב. -בְּסֵדֶר.

1739
01:15:15,162 --> 01:15:16,686
זה די מגניב.
יש חבורה של מראות.

1740
01:15:16,729 --> 01:15:17,817
-האם זה-- בסדר.
-אישה: סם א', קח אחד. סִימָן.

1741
01:15:17,861 --> 01:15:19,515
-איך זה?
-טוֹב. תודה לך.

1742
01:15:19,558 --> 01:15:21,038
דניאל: בראשית
של הפרויקט הזה זה שהייתי

1743
01:15:21,081 --> 01:15:22,822
יושב בבית,
ושיחקתי עם,

1744
01:15:22,866 --> 01:15:24,389
אני חושב, מחולל התמונות שלך,

1745
01:15:24,432 --> 01:15:27,261
והייתי בו זמנית,
אה, מבועת

1746
01:15:27,305 --> 01:15:29,437
-וממש התרשמתי.
-[מצחקק בשקט]

1747
01:15:29,481 --> 01:15:31,875
-זה השילוב הרגיל.
-ואז לחתוך ל

1748
01:15:31,918 --> 01:15:34,617
אשתי ואני מגלים
אנחנו מצפים.

1749
01:15:34,660 --> 01:15:38,272
ו-ויש לי, כאילו
משבר קיומי

1750
01:15:38,316 --> 01:15:40,231
כמו שאשתי
בחודש השישי להריון.

1751
01:15:40,274 --> 01:15:42,929
ואני חושב שהשאלה הראשונה שלי,
שאני שואל את כולם:

1752
01:15:42,973 --> 01:15:45,453
עכשיו זו תקופה נוראית
להביא ילד לעולם?

1753
01:15:45,497 --> 01:15:47,368
האם אני עושה טעות גדולה?

1754
01:15:47,412 --> 01:15:49,022
אני מצפה לילד
גם במרץ. הראשון שלי.

1755
01:15:49,066 --> 01:15:50,502
-אתה מצפה לילד?
-כֵּן.

1756
01:15:50,546 --> 01:15:51,808
-אתה מצפה במרץ?
-ילד ראשון.

1757
01:15:51,851 --> 01:15:53,287
-מזל טוב.
-תודה רבה.

1758
01:15:53,331 --> 01:15:54,462
מעולם לא התרגשתי כל כך
לכל דבר.

1759
01:15:54,506 --> 01:15:56,464
-ככה אני מרגיש.
-כֵּן.

1760
01:15:56,508 --> 01:15:58,205
אבל אתה לא מפחד?

1761
01:15:58,249 --> 01:16:02,732
אני מתכוון, כאילו, להביא ילד לעולם
רק הדבר החשוב הזה

1762
01:16:02,775 --> 01:16:04,995
שאני, אתה יודע,
אני נשאר ער כל לילה, כאילו,

1763
01:16:05,038 --> 01:16:06,823
לקרוא את הספרים האלה על
איך לגדל ילד,

1764
01:16:06,866 --> 01:16:08,215
ואני מקווה
אני הולך לעשות עבודה טובה,

1765
01:16:08,259 --> 01:16:09,260
וזה מרגיש
מאוד מכריע ו--

1766
01:16:09,303 --> 01:16:12,045
אבל אני לא מפחד...

1767
01:16:12,089 --> 01:16:14,047
לילדים לגדול
בעולם עם AI.

1768
01:16:14,091 --> 01:16:16,310
כאילו, זה... זה יהיה בסדר.

1769
01:16:16,354 --> 01:16:19,009
זה טוב לשמוע
מגיע מהבחור.

1770
01:16:19,052 --> 01:16:20,750
אני חושב שזה רעיון נפלא
להביא ילדים לעולם.

1771
01:16:20,793 --> 01:16:23,230
אני-אני חושב שהם הכי
דבר קסום, מדהים.

1772
01:16:23,274 --> 01:16:25,276
-[נאנח בכבדות]
-יש כל כך הרבה אי ודאות,

1773
01:16:25,319 --> 01:16:26,843
כמעט פשוט הייתי עושה
מה אתה הולך לעשות בכל מקרה.

1774
01:16:26,886 --> 01:16:28,932
אני יודע שזה לא
תשובה מספקת מאוד,

1775
01:16:28,975 --> 01:16:31,891
אבל זה היחיד
אני יכול להמציא.

1776
01:16:31,935 --> 01:16:34,459
הילדים שלנו לעולם לא...

1777
01:16:34,502 --> 01:16:37,070
להכיר עולם שאין לו
AI מתקדם באמת.

1778
01:16:37,114 --> 01:16:39,856
למעשה, הילדים שלנו לעולם לא יצליחו
להיות חכם יותר מבינה מלאכותית.

1779
01:16:39,899 --> 01:16:42,075
דניאל: "הילדים שלנו יעשו זאת
לעולם אל תהיה חכם יותר מבינה מלאכותית"?

1780
01:16:42,119 --> 01:16:44,338
ובכן, מתוך גלם,
מנקודת משכל גולמית,

1781
01:16:44,382 --> 01:16:46,253
הם לעולם לא יהיו
חכם יותר מבינה מלאכותית.

1782
01:16:46,297 --> 01:16:48,038
הרעיון הזה לא
לעצבן אותך קצת?

1783
01:16:48,081 --> 01:16:51,128
כי זה גורם לי להרגיש
קצת בחילה בצורה מוזרה.

1784
01:16:51,171 --> 01:16:54,784
אממ, זה מרגיז אותי
קצת.

1785
01:16:54,827 --> 01:16:56,263
אבל זו המציאות.

1786
01:16:56,307 --> 01:16:58,265
דניאל:
אוקיי, אז דינמיקת מירוץ.

1787
01:16:58,309 --> 01:17:01,007
יש לנו חבורה של אנשים
שכולם מסכימים

1788
01:17:01,051 --> 01:17:02,879
שזה מפחיד.

1789
01:17:02,922 --> 01:17:04,750
בהתבסס על לוחות הזמנים ש
הרבה אנשים נתנו לי,

1790
01:17:04,794 --> 01:17:07,013
יש לנו בין חודשיים ו
חמש שנים להבין את זה.

1791
01:17:07,057 --> 01:17:08,667
-כֵּן.
-ו-ו, אני מניח,

1792
01:17:08,711 --> 01:17:12,845
השאלה הכי גדולה שלי היא:
למה אנחנו לא יכולים פשוט להפסיק?

1793
01:17:14,499 --> 01:17:19,069
הבעיה עם, אה, אה,
"רק לעצור" זה, אממ,

1794
01:17:19,112 --> 01:17:22,202
יש הרבה הרבה קבוצות עכשיו
מסביב לעולם, אה, אה,

1795
01:17:22,246 --> 01:17:25,684
לבנות את זה, עבור
מדינות רבות, חברות רבות,

1796
01:17:25,728 --> 01:17:28,121
אה, הכל עם
מניעים שונים.

1797
01:17:28,165 --> 01:17:30,776
יש כמה
החברות הללו במרחב הזה

1798
01:17:30,820 --> 01:17:33,997
מי העמדה שלהם, "אנחנו רוצים
לפתח את הטכנולוגיה הזו

1799
01:17:34,040 --> 01:17:36,042
הכי מהר שאפשר".

1800
01:17:36,086 --> 01:17:40,046
ואפילו אם נוכל להעביר חוקים
בארה"ב ובאירופה,

1801
01:17:40,090 --> 01:17:42,396
אנחנו צריכים לשכנע...

1802
01:17:42,440 --> 01:17:44,964
שי ג'ינפינג ולדימיר פוטין
או, אתה יודע,

1803
01:17:45,008 --> 01:17:47,445
מי שהוא מדעי
היועצים בצד שלהם.

1804
01:17:47,488 --> 01:17:49,229
זה יהיה ממש קשה.

1805
01:17:49,273 --> 01:17:50,927
אני חושב שזה נכון

1806
01:17:50,970 --> 01:17:53,581
שאם שני אנשים הם
בדיוק באותו מקום,

1807
01:17:53,625 --> 01:17:55,888
אה, זה שמוכן לקחת
קיצורי דרך נוספים בנושא בטיחות

1808
01:17:55,932 --> 01:17:58,064
צריך סוג של
"תגיע לשם קודם."

1809
01:17:58,108 --> 01:18:01,067
אה, אבל...

1810
01:18:01,111 --> 01:18:02,939
אנחנו יכולים להשתמש בהובלה שלנו

1811
01:18:02,982 --> 01:18:05,985
לבלות הרבה יותר זמן
עושה בדיקות בטיחות.

1812
01:18:06,029 --> 01:18:07,987
דניאל:
ומה אם תאבד את זה?

1813
01:18:08,031 --> 01:18:09,597
אתה מקבל את השיחה
ואתה מגלה

1814
01:18:09,641 --> 01:18:11,687
שאתה עכשיו, נניח,
שישה חודשים מאחור.

1815
01:18:11,730 --> 01:18:14,254
-מה-מה קורה אז?
-תלוי למי אנחנו מאחור.

1816
01:18:14,298 --> 01:18:16,822
אם זה, כאילו,
ממשלה יריבה,

1817
01:18:16,866 --> 01:18:18,824
זה כנראה ממש גרוע.

1818
01:18:18,868 --> 01:18:21,348
אז נניח שאתה מקבל את השיחה
שלסין יש,

1819
01:18:21,392 --> 01:18:24,787
יש באופן רקורסיבי
סוכן לשיפור עצמי

1820
01:18:24,830 --> 01:18:27,180
או משהו כזה שאנחנו
צריך לדאוג באמת.

1821
01:18:27,224 --> 01:18:29,226
מה עושים-- מה-מה קורה?

1822
01:18:30,967 --> 01:18:32,403
אממ...

1823
01:18:35,406 --> 01:18:37,234
המקרה הזה ידרוש...

1824
01:18:37,277 --> 01:18:40,672
הצעד הראשון יהיה
לדבר עם ממשלת ארה"ב.

1825
01:18:40,716 --> 01:18:42,935
סם, האם אתה סומך על
יכולתה של הממשלה להתמודד

1826
01:18:42,979 --> 01:18:44,676
משהו כזה?

1827
01:18:45,895 --> 01:18:47,766
כן, אני כן, למעשה.

1828
01:18:47,810 --> 01:18:49,550
יש דברים אחרים שאני לא
לסמוך על הממשלה שתטפל,

1829
01:18:49,594 --> 01:18:51,161
אבל התרחיש המסוים הזה,
אני חושב שהם ידעו...

1830
01:18:51,204 --> 01:18:52,771
הם-הם-- כן.

1831
01:18:52,815 --> 01:18:54,425
דניאל: כשיש לך,
כמו, דיונים פרטיים

1832
01:18:54,468 --> 01:18:56,383
עם החבר'ה האחרים שלהם
האצבעות על ההדק,

1833
01:18:56,427 --> 01:18:59,604
כביכול, אממ
לעשות את הדיונים הפרטיים האלה

1834
01:18:59,647 --> 01:19:01,301
למלא אותך בביטחון

1835
01:19:01,345 --> 01:19:03,347
או שהם עושים אותך,
אה, יותר מודאג?

1836
01:19:03,390 --> 01:19:07,090
תראה, אני מתכוון, אני-אני מכיר כמה
מהם טוב יותר מאחרים.

1837
01:19:07,133 --> 01:19:10,136
אממ, יש לי יותר ביטחון עצמי
בחלקם יותר ממה שיש לי

1838
01:19:10,180 --> 01:19:12,356
באחרים, אתה יודע,
כמו עם, כמו עם כל עם.

1839
01:19:12,399 --> 01:19:14,140
אתה יודע,
אתה חושב על, אתה יודע,

1840
01:19:14,184 --> 01:19:15,838
הילדים בבית הספר התיכון שלך
כיתה או משהו, נכון?

1841
01:19:15,881 --> 01:19:18,275
אתה יודע, כמה מהם הם,
אתה יודע, ממש מתוק.

1842
01:19:18,318 --> 01:19:20,407
לחלקם יש כוונות טובות
אבל לא כל כך יעיל.

1843
01:19:20,451 --> 01:19:22,366
חלקם הם,
אתה יודע, בריונים.

1844
01:19:22,409 --> 01:19:23,759
חלק מהם כן
אנשים ממש רעים.

1845
01:19:23,802 --> 01:19:25,673
[מגמגמים]
אתה-אתה ממש,

1846
01:19:25,717 --> 01:19:27,066
אתה באמת רואה את ההתפשטות.

1847
01:19:27,110 --> 01:19:28,807
אתה יודע, האם אני, האם אני,
האם אני בטוח בעצמי

1848
01:19:28,851 --> 01:19:30,548
שכולם יעשו
הדבר הנכון,

1849
01:19:30,591 --> 01:19:32,028
שהכל יסתדר?

1850
01:19:32,071 --> 01:19:33,856
אממ לא, אני לא.

1851
01:19:33,899 --> 01:19:35,509
ויש-אין כלום
אני יכול לעשות עם זה, נכון?

1852
01:19:35,553 --> 01:19:37,773
אתה יודע, כל מה שאני יכול לעשות
הוא-זה דחיפה עבור,

1853
01:19:37,816 --> 01:19:39,165
לדחוף עבור, אתה יודע,

1854
01:19:39,209 --> 01:19:40,776
לדחוף לממשלה
להסתבך.

1855
01:19:40,819 --> 01:19:42,647
אבל בסופו של דבר אני סתם
גם שם אדם אחד.

1856
01:19:42,690 --> 01:19:44,127
זה--
זה-זה תלוי בכולנו

1857
01:19:44,170 --> 01:19:46,042
לדחוף לממשלה
להסתבך.

1858
01:19:46,085 --> 01:19:48,479
זה הדבר מספר אחד
את זה אני חושב שאנחנו צריכים לעשות

1859
01:19:48,522 --> 01:19:50,916
ל-to, אתה יודע, לקבוע דברים
בכיוון הנכון.

1860
01:19:50,960 --> 01:19:52,744
מה גורם לי לחרדות
על זה הוא, כאילו,

1861
01:19:52,788 --> 01:19:56,182
המציאות הבסיסית שה
המהירות שבה הטכנולוגיה

1862
01:19:56,226 --> 01:19:58,402
מתרבה וגדל
הוא אקספוננציאלי,

1863
01:19:58,445 --> 01:20:01,448
והמנגנונים לחקיקה
בני 300,

1864
01:20:01,492 --> 01:20:02,928
-לקחת לנצח.
-כֵּן.

1865
01:20:02,972 --> 01:20:05,104
אממ, אני-אני חושב
זה הולך להיות טרמפ כבד.

1866
01:20:05,148 --> 01:20:06,889
אני-אני בהחלט מסכים
איתך על זה.

1867
01:20:06,932 --> 01:20:08,891
דניאל: אתה יודע,
מה שאני ממש מחפש

1868
01:20:08,934 --> 01:20:11,241
הוא-זה כמו,
"הנה צעדים שכמו,

1869
01:20:11,284 --> 01:20:15,158
"חונכי הראש הולכים
בצע כדי להתמקד בבטיחות,

1870
01:20:15,201 --> 01:20:18,117
כדי להפחית את הסכנה
ולמקסם את ההבטחה".

1871
01:20:18,161 --> 01:20:20,119
ואני לא,
אני לא, אני לא יודע

1872
01:20:20,163 --> 01:20:21,817
שיש
תשובה פשוטה לכך.

1873
01:20:21,860 --> 01:20:23,296
אממ...

1874
01:20:25,951 --> 01:20:27,561
כלומר, זה אולי זה
פשוט מדי,

1875
01:20:27,605 --> 01:20:30,173
אבל אתה...

1876
01:20:30,216 --> 01:20:31,957
ליצור דגם חדש,

1877
01:20:32,001 --> 01:20:34,786
אתה לומד ובודק את זה
בזהירות רבה.

1878
01:20:34,830 --> 01:20:37,223
אתה מכבה את זה
אל העולם בהדרגה,

1879
01:20:37,267 --> 01:20:39,530
ואז, יותר ויותר,
אתה מבין

1880
01:20:39,573 --> 01:20:41,227
אם זה בטוח או לא,
ואז אם כן,

1881
01:20:41,271 --> 01:20:42,707
אתה יכול לעשות את הצעד הבא.

1882
01:20:44,404 --> 01:20:47,103
זה לא נשמע כל כך צעקני
כמו, כמו, מדען מבריק

1883
01:20:47,146 --> 01:20:50,454
מעלה רעיון אחד ב-a
מעבדה ליצור מערכת בינה מלאכותית, כמו,

1884
01:20:50,497 --> 01:20:53,979
בטוח לחלוטין וניתן לשליטה
וכל השאר,

1885
01:20:54,023 --> 01:20:55,720
אבל זה מה שאני מאמין
הולך לקרות.

1886
01:20:55,763 --> 01:20:57,287
כאילו, זו הדרך
אני חושב שזה עובד.

1887
01:20:57,330 --> 01:20:59,289
אבל בוא נגיד
משהו נורא קורה,

1888
01:20:59,332 --> 01:21:01,813
כמו דוגמנית משתחררת
או הולך לנוכל או משהו.

1889
01:21:01,857 --> 01:21:03,467
יש פרוטוקול?

1890
01:21:03,510 --> 01:21:05,817
כאילו, תרתי משמע,
אני מדמיינת טלפון אדום.

1891
01:21:05,861 --> 01:21:07,123
-כֵּן.
-סליחה שחשבתי על זה

1892
01:21:07,166 --> 01:21:08,515
מבחינת סרטים, אבל כמו...

1893
01:21:08,559 --> 01:21:09,995
יש פרוטוקול.

1894
01:21:10,039 --> 01:21:11,475
-האם יש טלפון אדום
על השולחן שלך? -לֹא.

1895
01:21:11,518 --> 01:21:13,216
[צוחק]:
האם זה סוד?

1896
01:21:13,259 --> 01:21:15,392
אני מתכוון, אה, לא, זה לא,
זה לא כל כך מפואר או דרמטי

1897
01:21:15,435 --> 01:21:17,176
כמו שאתה, כאילו, היית מקווה,
אבל יש, כאילו, אתה יודע--

1898
01:21:17,220 --> 01:21:18,874
חשבנו, כאילו
התרחישים האלה,

1899
01:21:18,917 --> 01:21:20,527
ואם זה יקרה,
אנחנו נתקשר לאנשים האלה

1900
01:21:20,571 --> 01:21:21,964
לפי הסדר הזה ולעשות זאת

1901
01:21:22,007 --> 01:21:23,443
וסוג של לעשות
החלטות אלה אם, כמו--

1902
01:21:23,487 --> 01:21:26,055
אני כן מאמין בזה
כשיש לך הזדמנות

1903
01:21:26,098 --> 01:21:29,058
לעשות את החשיבה שלך לפני
קורה מצב מלחיץ,

1904
01:21:29,101 --> 01:21:30,407
זה כמעט תמיד
רעיון טוב.

1905
01:21:30,450 --> 01:21:31,756
ולכתוב את זה מועיל.

1906
01:21:31,799 --> 01:21:33,279
-להיות מוכן מועיל.
-כֵּן.

1907
01:21:34,324 --> 01:21:36,021
[נאנח] אתה...

1908
01:21:36,065 --> 01:21:38,763
זה יהיה בלתי אפשרי
כדי שאשב מולך

1909
01:21:38,806 --> 01:21:41,157
ו-ולבקש ממך להבטיח לי
שזה הולך טוב?

1910
01:21:41,200 --> 01:21:43,855
זה בלתי אפשרי.

1911
01:21:43,899 --> 01:21:45,683
אין תשובות קלות,
למרבה הצער.

1912
01:21:45,726 --> 01:21:48,077
אה, כי זה כזה
טכנולוגיה חדשנית,

1913
01:21:48,120 --> 01:21:49,774
אממ, עדיין יש
הרבה אלמונים.

1914
01:21:49,817 --> 01:21:52,255
ואני חושב כך
זה-זה צריך להיות,

1915
01:21:52,298 --> 01:21:55,040
אממ, אה, אתה יודע, הבנת

1916
01:21:55,084 --> 01:21:58,957
ומכאן הצורך
בשביל, אה, אה, קצת זהירות.

1917
01:21:59,001 --> 01:22:00,872
אני מתעורר, אתה יודע, כל יום,

1918
01:22:00,916 --> 01:22:03,440
זה ה, זה ה
דבר אחד שאני חושב עליו.

1919
01:22:03,483 --> 01:22:05,137
עכשיו, תראה, אני בן אדם,

1920
01:22:05,181 --> 01:22:08,358
ואתה יודע, יש-יש
כל החלטה הייתה מושלמת?

1921
01:22:08,401 --> 01:22:11,622
אני יכול אפילו לומר את המניעים שלי
תמיד היו ברורים לחלוטין?

1922
01:22:11,665 --> 01:22:13,537
כמובן שלא.
אף אחד לא יכול להגיד את זה.

1923
01:22:13,580 --> 01:22:16,366
כאילו, זהו-זהו
רק לא, כאילו, אתה יודע--

1924
01:22:16,409 --> 01:22:18,629
זה-זה פשוט לא
איך אנשים עובדים.

1925
01:22:18,672 --> 01:22:21,023
ההיסטוריה של המדע
נוטה להיות זה,

1926
01:22:21,066 --> 01:22:23,547
לטוב ולרע,
אם משהו אפשרי לעשות--

1927
01:22:23,590 --> 01:22:26,985
ועכשיו אנחנו יודעים ש-AI אפשרי
לעשות-- האנושות עושה את זה.

1928
01:22:27,029 --> 01:22:29,727
כל זה
עמד לקרות.

1929
01:22:29,770 --> 01:22:32,295
זו-הרכבת הזו
לא יפסיק.

1930
01:22:32,338 --> 01:22:34,253
אתה לא יכול לצעוד לפני
את הרכבת ולעצור אותה.

1931
01:22:34,297 --> 01:22:36,255
אתה פשוט הולך להידחק.

1932
01:22:36,299 --> 01:22:38,388
אלטמן:
כלומר, זה מאוד מלחיץ.

1933
01:22:39,606 --> 01:22:41,043
אתה יודע, יש, כאילו,

1934
01:22:41,086 --> 01:22:42,653
הרבה דברים
רבים מאיתנו לא יודעים.

1935
01:22:42,696 --> 01:22:46,352
אני חושב שההיסטוריה
של גילוי מדעי הוא

1936
01:22:46,396 --> 01:22:48,267
אחד של לא לדעת
מה שאתה לא יודע

1937
01:22:48,311 --> 01:22:49,660
ולהבין תוך כדי.

1938
01:22:49,703 --> 01:22:52,968
אה, אבל, כן, זה...

1939
01:22:53,011 --> 01:22:56,580
זו דרך מלחיצה לחיות.

1940
01:22:56,623 --> 01:22:58,756
דניאל: נכון. סם, תודה
מאוד על שעושים זאת.

1941
01:22:58,799 --> 01:23:00,497
-ושוב, מזל טוב.
-תודה לך. וגם לך.

1942
01:23:00,540 --> 01:23:02,673
תודה רבה לך. תודה, חבר'ה.

1943
01:23:02,716 --> 01:23:05,458
♪ ♪

1944
01:23:07,678 --> 01:23:08,984
[נאנח]

1945
01:23:10,986 --> 01:23:13,162
[מפציץ חשמל]

1946
01:23:13,205 --> 01:23:15,599
-[סדקי רעם]
-[משששש, נהנה]

1947
01:23:42,626 --> 01:23:44,628
-[קליקים של מכשיר וידאו]
-[צלצול קו]

1948
01:23:47,848 --> 01:23:49,285
-[לחיצות שורה]
-קווין רוהר: שלום.

1949
01:23:49,328 --> 01:23:50,547
דניאל:
היי, אבא, מה שלומך?

1950
01:23:50,590 --> 01:23:51,591
קווין:
טוב. מה שלומך?

1951
01:23:51,635 --> 01:23:53,071
אתה עובד? מה אתה זומם?

1952
01:23:53,115 --> 01:23:55,247
דניאל:
אני עובד על סרט הבינה המלאכותית הזה.

1953
01:23:55,291 --> 01:23:57,815
קווין:
ואיך זה הולך?

1954
01:23:57,858 --> 01:24:00,426
דניאל:
אתה יודע, זה... זה באמת...

1955
01:24:00,470 --> 01:24:02,167
- ג'ואן רוהר: היי, מתוקה.
-דניאל: היי, אמא.

1956
01:24:02,211 --> 01:24:03,864
ג'ואן: אז מה כן
הנחת היסוד של הסרט?

1957
01:24:03,908 --> 01:24:06,519
זה סרט דוקומנטרי?
קב, אל תשתמש יותר בתבלינים.

1958
01:24:06,563 --> 01:24:08,304
זה כבר מתובל יתר על המידה.

1959
01:24:08,347 --> 01:24:10,436
אנחנו מכינים עוף עכשיו.

1960
01:24:10,480 --> 01:24:12,612
זה סרט דוקומנטרי או מה...
-דניאל: זה על--

1961
01:24:12,656 --> 01:24:13,961
הסרט עוסק
סוף העולם.

1962
01:24:14,005 --> 01:24:15,789
סוף בוא העולם,

1963
01:24:15,833 --> 01:24:17,574
ואנחנו עושים סרט
על סוף העולם.

1964
01:24:17,617 --> 01:24:19,837
- ג'ואן: באמת?
-דניאל: כן.

1965
01:24:19,880 --> 01:24:21,578
קווין: דיכאון
סרט, זה נשמע כמו.

1966
01:24:21,621 --> 01:24:23,449
ג'ואן:
כן.

1967
01:24:23,493 --> 01:24:28,976
דניאל: אני מרגיש הרבה,
כמו-- החרדה המאוד חריפה הזו.

1968
01:24:29,020 --> 01:24:31,370
ג'ואן: זה כל כך מפחיד,
אבל חייב להיות--

1969
01:24:31,414 --> 01:24:35,287
אתה יודע, האם נפגשתם
כמה אנשים סופר חכמים

1970
01:24:35,331 --> 01:24:37,768
שנותנים לך תשובות?

1971
01:24:37,811 --> 01:24:39,465
דניאל: זה מה שיש
מתסכל על זה.

1972
01:24:39,509 --> 01:24:41,337
אף אחד לא יודע.

1973
01:24:41,380 --> 01:24:43,904
ג'ואן:
כל מה שאני יכול להגיד על זה זה

1974
01:24:43,948 --> 01:24:49,867
לכל דור היה
משהו מפחיד כזה.

1975
01:24:49,910 --> 01:24:52,217
קווין: כשנולדתי, זה היה
משבר הטילים בקובה.

1976
01:24:52,261 --> 01:24:54,263
[דופק קבוע]

1977
01:24:54,306 --> 01:24:56,352
פשוט פחדתי ששם
עומדת להיות מלחמה גרעינית.

1978
01:24:56,395 --> 01:24:57,744
ג'ואן:
כן, אבל לא ידענו

1979
01:24:57,788 --> 01:24:59,094
מה הם התכוונו לעשות ו...

1980
01:24:59,137 --> 01:25:00,530
קווין:
והעולם לא נגמר.

1981
01:25:00,573 --> 01:25:01,618
כולם התעוררו
למחרת בבוקר,

1982
01:25:01,661 --> 01:25:03,402
ואנחנו עדיין עושים את שלנו.

1983
01:25:03,446 --> 01:25:04,969
דניאל:
אני מאוד מפחד,

1984
01:25:05,012 --> 01:25:06,840
במיוחד ב
ההקשר של, כמו,

1985
01:25:06,884 --> 01:25:09,147
-אתה יודע, התינוק ו...
-[פעימת לב עוברית פועמת]

1986
01:25:09,191 --> 01:25:10,540
קווין:
זה הולך להיות עקומת למידה.

1987
01:25:10,583 --> 01:25:12,063
ג'ואן:
אתה תהיה בסדר.

1988
01:25:12,107 --> 01:25:13,064
קווין: אתה לא יכול,
אתה לא יכול לחשוב על

1989
01:25:13,108 --> 01:25:14,326
מה שאתה לא יכול לשלוט בו, דניאל.

1990
01:25:14,370 --> 01:25:16,154
רק תזכור את זה.

1991
01:25:16,198 --> 01:25:17,677
דניאל [שובר קול]:
אני באמת, אני באמת מרגיש

1992
01:25:17,721 --> 01:25:19,201
עצבני ומפוחד מזה.

1993
01:25:19,244 --> 01:25:21,028
יש כל כך הרבה
שאני לא יכול לשלוט בהם.

1994
01:25:21,072 --> 01:25:23,857
קווין: אל תהיה עצבני.
אתה לא יכול לתת לזה להגיע אלייך.

1995
01:25:23,901 --> 01:25:26,251
אתה יכול רק לשלוט
במה אתה יכול לשלוט,

1996
01:25:26,295 --> 01:25:27,905
וזה כל מה שאתה יכול לעשות.

1997
01:25:27,948 --> 01:25:30,603
אתה לא יכול לעשות יותר מזה.

1998
01:25:30,647 --> 01:25:32,649
רשום את זה בספר שלך.

1999
01:25:35,347 --> 01:25:36,870
♪ ♪

2000
01:25:44,095 --> 01:25:46,663
[פעימות הלב של העובר]

2001
01:25:46,706 --> 01:25:49,231
[ילל]

2002
01:25:49,274 --> 01:25:51,581
קרוליין:
כשאתה מסתכל אחורה,

2003
01:25:51,624 --> 01:25:54,453
העולם תמיד מסתיים.

2004
01:25:54,497 --> 01:25:56,803
וכשאתה מסתכל קדימה,

2005
01:25:56,847 --> 01:25:59,241
העולם תמיד מסתיים.

2006
01:25:59,284 --> 01:26:02,157
...בּוֹעֵר.
בית אחד כבר בוער...

2007
01:26:02,200 --> 01:26:05,377
קרוליין: אבל העולם
גם תמיד מתחיל.

2008
01:26:07,988 --> 01:26:09,947
דניאל:
האם אתה מוכן?

2009
01:26:09,990 --> 01:26:11,992
האם אי פעם אתה באמת מוכן?

2010
01:26:15,909 --> 01:26:17,650
דניאל: אתה רוצה לנהוג
או שאתה רוצה שאני אנהג?

2011
01:26:17,694 --> 01:26:18,782
קרוליין:
אתה נוהג.

2012
01:26:20,479 --> 01:26:21,828
-[אישה מדברת בצורה לא ברורה]
-קרוליין: בסדר.

2013
01:26:21,872 --> 01:26:23,700
דניאל:
תודה לך, מריה.

2014
01:26:23,743 --> 01:26:26,268
אישה: זה פשוט הולך
מרגיש ממש כואב.

2015
01:26:26,311 --> 01:26:27,791
-קרוליין: בסדר.
-אשה: את מוכנה?

2016
01:26:27,834 --> 01:26:29,053
-קרוליין: כן.
-[פטפוט לא ברור]

2017
01:26:29,096 --> 01:26:30,924
[קרוליין נאנחת בכבדות]

2018
01:26:30,968 --> 01:26:32,404
אישה: אתה יכול להיות ב
דרמה רפואית עם כל זה...

2019
01:26:33,840 --> 01:26:35,842
♪ ♪

2020
01:26:44,329 --> 01:26:45,896
-[פצפוצים סטטיים]
-[פטפוט לא ברור]

2021
01:26:49,116 --> 01:26:51,075
אישה:
... קצת לחץ.

2022
01:26:52,685 --> 01:26:54,078
פשוט תירגע.

2023
01:26:56,907 --> 01:26:59,214
-[תינוק בוכה]
-[מכשיר מצפצף]

2024
01:27:02,129 --> 01:27:04,915
דניאל:
היי, חבר. אוי.

2025
01:27:04,958 --> 01:27:06,438
היי, חבר.

2026
01:27:06,482 --> 01:27:08,484
♪ ♪

2027
01:27:31,202 --> 01:27:33,683
קווין:
זה הולך להיות עולם חדש לגמרי

2028
01:27:33,726 --> 01:27:35,032
בשבילך, דניאל.

2029
01:27:37,208 --> 01:27:40,080
ואני חושב שאתה הולך להיות
אבא מדהים.

2030
01:27:41,517 --> 01:27:44,346
ג'ואן [מצחקקת]:
זה בטוח.

2031
01:27:44,389 --> 01:27:46,609
-[קווין בוכה]
-אה.

2032
01:27:46,652 --> 01:27:48,654
[הבכי ממשיך]

2033
01:27:48,698 --> 01:27:50,787
קווין:
אתה תעשה עבודה נהדרת.

2034
01:27:51,788 --> 01:27:53,050
ג'ואן:
קב, למה אתה בוכה?

2035
01:27:53,093 --> 01:27:54,617
קווין:
אני בוכה כי...

2036
01:27:54,660 --> 01:27:57,054
אני לא יודע. אני פשוט לא...

2037
01:27:57,097 --> 01:27:59,317
דניאל: אבא, אתה הולך
לגרום לי לבכות גם.

2038
01:27:59,361 --> 01:28:00,710
למה אתה בוכה?

2039
01:28:03,190 --> 01:28:05,497
קווין: אני פשוט יודע את זה
אתה הולך להיות אבא מדהים.

2040
01:28:05,541 --> 01:28:07,107
דניאל [בוכה]:
אני אהיה רק אבא נהדר

2041
01:28:07,151 --> 01:28:09,675
כי היה לי אבא נהדר.

2042
01:28:09,719 --> 01:28:12,287
קווין: אני נהיה רגשני,
זה הכל.

2043
01:28:12,330 --> 01:28:13,679
ג'ואן:
אוי.

2044
01:28:13,723 --> 01:28:14,898
[פטפוט שובב בווידאו]

2045
01:28:14,941 --> 01:28:16,552
[מעל סרטון]:
ילד, הו, ילד!

2046
01:28:16,595 --> 01:28:17,857
אלוהים אדירים!

2047
01:28:18,902 --> 01:28:20,817
תראה את החצופות הקטנות האלה.

2048
01:28:20,860 --> 01:28:24,777
תראה את החצופות הקטנות האלה.
תראה את החצופות הקטנות האלה.

2049
01:28:24,821 --> 01:28:26,344
כֵּן.

2050
01:28:26,388 --> 01:28:28,433
דניאל:
אני יודע איך לסיים את הסרט הזה.

2051
01:28:29,478 --> 01:28:32,263
תינוקות.

2052
01:28:32,307 --> 01:28:35,266
-סוף הסרט הוא בערך
תינוקות.-[פטפט על סרטונים]

2053
01:28:35,310 --> 01:28:37,094
הם מאשרי חיים.

2054
01:28:37,137 --> 01:28:38,922
הם מתישים.

2055
01:28:38,965 --> 01:28:40,793
-[תינוק צוחק]
-הם מצחיקים.

2056
01:28:40,837 --> 01:28:42,665
והם שווים את זה.

2057
01:28:42,708 --> 01:28:46,451
הסרט הזה לא עוסק ב
פעולות פנימיות של טכנולוגיה.

2058
01:28:46,495 --> 01:28:48,235
זה לא קשור
המנכ"לים המיליארדרים.

2059
01:28:48,279 --> 01:28:50,194
זה לא קשור לגיאופוליטיקה.

2060
01:28:50,237 --> 01:28:53,589
זה לא קשור למפחיד
עתיד או סוף העולם,

2061
01:28:53,632 --> 01:28:55,678
כי העולם שלי
רק מתחיל.

2062
01:28:55,721 --> 01:28:57,375
אני בונה עריסה.

2063
01:28:57,419 --> 01:28:59,290
ממש כאן, ממש עכשיו.

2064
01:28:59,334 --> 01:29:00,465
[תינוק משתולל]

2065
01:29:00,509 --> 01:29:02,337
AI עומד לשנות הכל

2066
01:29:02,380 --> 01:29:05,601
בדרכים חזקות מדי ו
מורכב לנו להבין.

2067
01:29:05,644 --> 01:29:08,952
והעתיד לא
לכל אחד מאיתנו להחליט.

2068
01:29:10,736 --> 01:29:13,609
אבל מה שאני יכול להחליט זה להיות
הבעל הכי טוב שאפשר

2069
01:29:13,652 --> 01:29:17,700
עבור אשתי והטוב ביותר
אבא אפשרי עבור הבן שלי.

2070
01:29:17,743 --> 01:29:21,399
אז האם העתיד שלנו בינה מלאכותית הוא
דיסטופיה מסויטת

2071
01:29:21,443 --> 01:29:23,836
או האוטופיה
שכולנו חולמים עליו,

2072
01:29:23,880 --> 01:29:26,883
אני לפחות אדע
שעשיתי כל מה שיכולתי

2073
01:29:26,926 --> 01:29:30,103
להדריך את המשפחה שלי
דרך מהפכת הבינה המלאכותית הזו.

2074
01:29:30,147 --> 01:29:33,846
ולא משנה מה,
נתמודד עם זה ביחד.

2075
01:29:33,890 --> 01:29:35,195
[מוזיקה מרוממת מתנפחת]

2076
01:29:35,239 --> 01:29:36,806
[המוזיקה נעצרת בפתאומיות]

2077
01:29:36,849 --> 01:29:40,505
דניאל:
אז זה רק הרעיון הראשון שלנו.

2078
01:29:40,549 --> 01:29:42,812
איך זה מרגיש?
אתה מרגיש את זה?

2079
01:29:42,855 --> 01:29:45,249
רגע, אני-- כאילו, זה לא--
זו בדיחה.

2080
01:29:45,292 --> 01:29:47,425
זה לא בעצם
איך אתה הולך לסיים את זה.

2081
01:29:50,036 --> 01:29:52,648
כלומר, זה רק רעיון. בְּסֵדֶר?

2082
01:29:52,691 --> 01:29:54,389
לא, דניאל.

2083
01:29:54,432 --> 01:29:56,129
...אה, מאוד מאוד מטומטם.

2084
01:29:56,173 --> 01:29:58,915
הרגע בזבזת, אני לא
יודע, כאילו, כמה שנים

2085
01:29:58,958 --> 01:30:02,571
מהחיים שלנו עובדים על זה,
מדבר עם כל מומחה מוביל

2086
01:30:02,614 --> 01:30:04,964
על הפלנטה על הנושא,

2087
01:30:05,008 --> 01:30:07,663
ואתה תסיים את זה

2088
01:30:07,706 --> 01:30:10,796
עם כמה, כמו,
שטויות קומבייה?

2089
01:30:10,840 --> 01:30:13,495
יש אסטרואיד
פנה לכדור הארץ.

2090
01:30:13,538 --> 01:30:15,497
מה אתה עושה? פשוט...

2091
01:30:15,540 --> 01:30:17,629
להחזיק ידיים
ומקווה שזה יסתדר?

2092
01:30:17,673 --> 01:30:19,414
ממש לא.

2093
01:30:19,457 --> 01:30:22,286
אנחנו חייבים--זה הא--
זה חייב להיות...

2094
01:30:22,329 --> 01:30:24,419
הסוף חייב...

2095
01:30:25,855 --> 01:30:27,900
קרוליין:
אוקיי, דבר ראשון:

2096
01:30:27,944 --> 01:30:31,426
AI זה כאן,
וזה כאן כדי להישאר.

2097
01:30:31,469 --> 01:30:32,905
החרא יצא מהסוס,

2098
01:30:32,949 --> 01:30:35,430
אבל הסוס כן
ימשיך לחרבן.

2099
01:30:38,171 --> 01:30:39,651
[המון מריע]

2100
01:30:39,695 --> 01:30:41,566
אתה יודע, אחד הבסיסיים
חוקי ההיסטוריה

2101
01:30:41,610 --> 01:30:44,003
האם זה כלום
באמת יש התחלה

2102
01:30:44,047 --> 01:30:45,962
ולשום דבר אין סוף.

2103
01:30:46,005 --> 01:30:47,703
זה פשוט ממשיך.

2104
01:30:47,746 --> 01:30:50,532
AI לא קרוב
הפיתוח המלא שלו.

2105
01:30:50,575 --> 01:30:52,795
קרוליין: גם אם
בועת הבינה המלאכותית הנוכחית מתפוצצת,

2106
01:30:52,838 --> 01:30:54,579
-בני אדם לעולם לא יפסיקו
-[מכות רעש]

2107
01:30:54,623 --> 01:30:57,539
לבנות עוד ועוד
טכנולוגיה רבת עוצמה.

2108
01:30:57,582 --> 01:30:59,410
HAO:
אתה יכול לבחור לא להשתמש ב-AI

2109
01:30:59,454 --> 01:31:02,239
או להשתתף בו, אבל זה כן
ישפיע עליך בכל מקרה.

2110
01:31:02,282 --> 01:31:04,023
דניאל: אוקיי, פנטסטי.
אז אנחנו דפוקים.

2111
01:31:04,067 --> 01:31:06,635
קרוליין: לא, אנחנו לא
בגלל דבר אחד פשוט.

2112
01:31:10,943 --> 01:31:12,989
זה לא בלתי נמנע.

2113
01:31:13,032 --> 01:31:15,208
אם רק יכולנו לראות את זה
ברור ביחד,

2114
01:31:15,252 --> 01:31:18,342
התגובה הברורה תהיה
לבחור משהו אחר.

2115
01:31:18,385 --> 01:31:21,040
אנחנו צריכים מאוד ברור
לשנות את המשחק

2116
01:31:21,084 --> 01:31:23,129
ממירוץ לתחתית
למירוץ לצמרת.

2117
01:31:23,173 --> 01:31:27,438
ליהי: הבעיה שאנחנו צריכים
לפתור זה לא AI ספציפית.

2118
01:31:27,482 --> 01:31:31,224
זו השאלה הכללית
איך אנחנו בונים חברה

2119
01:31:31,268 --> 01:31:33,879
שיכול להתמודד איתו
טכנולוגיה רבת עוצמה.

2120
01:31:33,923 --> 01:31:35,359
כי אנחנו הולכים לקבל

2121
01:31:35,402 --> 01:31:36,795
רק חזק יותר ויותר
טכנולוגיה.

2122
01:31:36,839 --> 01:31:39,668
קרוליין:
אנחנו צריכים לשדרג את החברה שלנו,

2123
01:31:39,711 --> 01:31:41,496
והשלב הראשון הוא
מתכנסים יחד

2124
01:31:41,539 --> 01:31:43,367
-ודורש...
-הכל: תיאום.

2125
01:31:43,410 --> 01:31:47,023
צורה כלשהי של בינלאומי
שיתוף פעולה או הסכם לגבי

2126
01:31:47,066 --> 01:31:48,503
מה צריכות להיות הנורמות.

2127
01:31:48,546 --> 01:31:49,895
אתה יודע, איך צריך
הם ייפרסו...

2128
01:31:49,939 --> 01:31:51,549
כאילו, אמיתי
דיפלומטיה בינלאומית

2129
01:31:51,593 --> 01:31:53,290
בין המעצמות.

2130
01:31:53,333 --> 01:31:56,293
הסינים מודאגים באותה מידה
על זה כמו האמריקאים.

2131
01:31:56,336 --> 01:31:57,729
אני חושב שזה קשה,
אתה יודע,

2132
01:31:57,773 --> 01:31:59,514
בזרם
אקלים גיאופוליטי,

2133
01:31:59,557 --> 01:32:01,254
אבל אני חושב שזה הכרחי.
-רסקין: בהחלט.

2134
01:32:01,298 --> 01:32:04,693
בדיוק באותה צורה
הפעם האחרונה שבה האנושות

2135
01:32:04,736 --> 01:32:09,611
פיתח טכנולוגיה
המסוכן הזה...

2136
01:32:09,654 --> 01:32:12,396
...שדרש השלמה,
שינוי חסר תקדים

2137
01:32:12,439 --> 01:32:15,530
למבנה העולם שלנו.

2138
01:32:15,573 --> 01:32:17,619
קרוליין:
אז אנחנו צריכים לעשות את זה לגמרי,

2139
01:32:17,662 --> 01:32:20,883
שוב תזוזה חסרת תקדים.

2140
01:32:20,926 --> 01:32:24,103
אתה יודע, אנחנו-אנחנו מדברים עם אנשים
שעובדים בחברות הבינה המלאכותית האלה,

2141
01:32:24,147 --> 01:32:25,322
והם אומרים שהם רוצים לעשות
משהו אחר,

2142
01:32:25,365 --> 01:32:26,628
אבל הם צריכים לחץ ציבורי.

2143
01:32:26,671 --> 01:32:28,151
הם צריכים את הממשלה
לעשות משהו.

2144
01:32:28,194 --> 01:32:29,979
אז אנחנו הולכים ל-DC,
והם אומרים,

2145
01:32:30,022 --> 01:32:31,850
"ובכן, אנחנו צריכים עמק הסיליקון
לעשות משהו אחר.

2146
01:32:31,894 --> 01:32:33,635
הם אלה שהולכים
בוא עם מעקות הבטיחות".

2147
01:32:33,678 --> 01:32:35,680
וכך כולם מצביעים
האצבע לעבר מישהו אחר,

2148
01:32:35,724 --> 01:32:39,466
ומה שהם מסכימים עליו זה
שאנחנו צריכים לחץ ציבורי

2149
01:32:39,510 --> 01:32:41,207
על מנת למשהו אחר
לקרות.

2150
01:32:41,251 --> 01:32:42,818
וזה מה שאתה

2151
01:32:42,861 --> 01:32:44,254
וכל האנשים
צפייה בסרט הזה יכולה לעשות.

2152
01:32:44,297 --> 01:32:45,298
קרוליין:
אנחנו צריכים להחזיק את המנהיגים

2153
01:32:45,342 --> 01:32:47,083
בממשלות שלנו

2154
01:32:47,126 --> 01:32:48,563
והמנהיגים של
חברות אלו אחראיות.

2155
01:32:48,606 --> 01:32:51,000
BOEREE:
באיזו מדינה אתה נמצא,

2156
01:32:51,043 --> 01:32:52,871
ליידע אותם
שאתה לא שמח

2157
01:32:52,915 --> 01:32:54,569
עם הסטטוס קוו הנוכחי.

2158
01:32:54,612 --> 01:32:57,093
אז, כן, זה משעמם לומר
תתקשר לחבר הקונגרס שלך.

2159
01:32:57,136 --> 01:32:59,356
אני לא אומר שצריך
פשוט תעשה את זה, אבל, כאילו,

2160
01:32:59,399 --> 01:33:00,923
אנחנו חייבים לעשות את זה.

2161
01:33:00,966 --> 01:33:02,402
כאילו, אנחנו חייבים לקבל
הממשלה המעורבת.

2162
01:33:02,446 --> 01:33:03,839
דניאל: אז אנחנו פשוט
תתקשר אליהם ותגיד,

2163
01:33:03,882 --> 01:33:05,971
"היי, תפסיק עם ביג טק
מלהרוס את העולם"?

2164
01:33:06,015 --> 01:33:08,887
קרוליין: לא, אבל יש
טונות של ממש ברור,

2165
01:33:08,931 --> 01:33:10,672
דברים ישרים
אנחנו יכולים להיות תובעניים.

2166
01:33:10,715 --> 01:33:12,499
אנחנו צריכים שקיפות.

2167
01:33:12,543 --> 01:33:14,240
צריך לשים קץ לסודיות
שקיים בתוך המעבדות האלה,

2168
01:33:14,284 --> 01:33:16,634
כי הם בונים
טכנולוגיה חזקה,

2169
01:33:16,678 --> 01:33:18,680
ולציבור מגיע לדעת
מה קורה.

2170
01:33:18,723 --> 01:33:20,682
בסופו של דבר,
נצטרך עצמאיים,

2171
01:33:20,725 --> 01:33:23,249
צדדים שלישיים אובייקטיביים
להעריך את המערכות.

2172
01:33:23,293 --> 01:33:27,036
אנחנו לא יכולים לסמוך על החברות
לדרג את שיעורי הבית שלהם.

2173
01:33:27,079 --> 01:33:31,170
אם-אם חברה משתמשת בבינה מלאכותית ו-ו
יש AI באינטראקציה איתך,

2174
01:33:31,214 --> 01:33:34,957
זה צריך לחשוף שאתה כן
אינטראקציה עם מערכת AI.

2175
01:33:35,000 --> 01:33:38,613
כֵּן. ו-וגם אנחנו צריכים
מערכת שעושה חברות

2176
01:33:38,656 --> 01:33:41,833
אחריות משפטית עבור
מערכות AI שהם מייצרים.

2177
01:33:41,877 --> 01:33:45,750
אנחנו צריכים לוודא ששם
הם בדיקות ותקני בטיחות

2178
01:33:45,794 --> 01:33:48,013
המוחלים על כולם.

2179
01:33:48,057 --> 01:33:49,711
אנחנו צריכים כמה כללי יסוד,

2180
01:33:49,754 --> 01:33:51,538
ואנחנו צריכים להמשיך להסתגל
את הכללים האלה

2181
01:33:51,582 --> 01:33:54,585
במהירות שבה
הטכנולוגיה מתפתחת.

2182
01:33:54,629 --> 01:33:57,153
ליהי: יש כרגע
יותר רגולציה

2183
01:33:57,196 --> 01:33:59,285
על מכירת כריך
לציבור

2184
01:33:59,329 --> 01:34:02,898
ממה שיש בבניין
AGI שעלול להגיע לסוף העולם.

2185
01:34:02,941 --> 01:34:04,682
קרוליין:
והדבר האחרון הוא

2186
01:34:04,726 --> 01:34:07,598
לשדרג את עצמנו.

2187
01:34:07,642 --> 01:34:09,731
זה לא, כאילו, העבודה
של, כמו, צוות הבטיחות

2188
01:34:09,774 --> 01:34:11,733
בכל מעבדה נתונה, או במנכ"ל.

2189
01:34:11,776 --> 01:34:13,299
אז, כאילו, זהו
העבודה של כולם.

2190
01:34:13,343 --> 01:34:14,779
אל תעזוב את זה, כאילו
עד למומחי הבינה המלאכותית.

2191
01:34:14,823 --> 01:34:16,955
כאילו, [בליפ] את זה.
כאילו, זה הרגע

2192
01:34:16,999 --> 01:34:19,262
שאנחנו עוברים מעבר
מ, כמו,

2193
01:34:19,305 --> 01:34:21,525
בעיקר כוח קוגניטיבי אנושי
לכוח קוגניטיבי בינה מלאכותית,

2194
01:34:21,568 --> 01:34:23,092
וזה משפיע על כולם,

2195
01:34:23,135 --> 01:34:24,833
ואני רוצה שאנשים יהיו
בשיח הזה.

2196
01:34:24,876 --> 01:34:26,878
ואני הייתי אומר, אם אתה חושב
שה-AI יהרוג את כולנו,

2197
01:34:26,922 --> 01:34:28,488
אתה אמור לעבוד
במחקר AI

2198
01:34:28,532 --> 01:34:30,229
כדי לוודא שלא,
כי יש לך

2199
01:34:30,273 --> 01:34:32,188
כמות עצומה של סוכנות.

2200
01:34:32,231 --> 01:34:33,842
קרוליין:
מי שלא תהיה,

2201
01:34:33,885 --> 01:34:35,844
אתה מומחה
בתעשייה שלך,

2202
01:34:35,887 --> 01:34:39,151
בבית הספר שלך,
במשפחה שלך,

2203
01:34:39,195 --> 01:34:42,589
וזה תלוי בך
כיצד נעשה שימוש בבינה מלאכותית בחייך.

2204
01:34:42,633 --> 01:34:44,983
בין אם אתה רוצה להצטרף
מועצת בית הספר שלך

2205
01:34:45,027 --> 01:34:47,856
או-או אם אתה רוצה לשאול
המעסיק שלך

2206
01:34:47,899 --> 01:34:49,379
איך הם משתמשים
טכנולוגיות AI,

2207
01:34:49,422 --> 01:34:51,947
כאילו, כולנו יכולים לעשות את העבודה.

2208
01:34:51,990 --> 01:34:56,081
היו הרבה איגודים
די יעיל ב, כמו,

2209
01:34:56,125 --> 01:34:59,041
לקבוע איך הם רוצים
לקיים אינטראקציה עם מערכות אלו.

2210
01:34:59,084 --> 01:35:02,697
-איגודי אחיות, איגודי מורים.
-[מזמורים לא ברורים]

2211
01:35:02,740 --> 01:35:04,568
דניאלה אמודי: אני אשמח
אם הורים בכל מקום

2212
01:35:04,611 --> 01:35:06,135
הלך לחברות בינה מלאכותית
ואמר,

2213
01:35:06,178 --> 01:35:08,006
"איך אתה יכול להיות טוב יותר
על זה?" כולל אותנו.

2214
01:35:08,050 --> 01:35:11,183
אז הקמתי את Encode Justice
כשהייתי בן 15.

2215
01:35:11,227 --> 01:35:14,839
אנחנו הראשונים בעולם
והצבא הגדול ביותר של צעירים

2216
01:35:14,883 --> 01:35:18,364
נלחם למען מרכז האדם
בינה מלאכותית.

2217
01:35:18,408 --> 01:35:21,019
זה לא משנה מי אתה,
אפילו הפעולות הקטנות ביותר עוזרות,

2218
01:35:21,063 --> 01:35:23,935
ואפילו שיחה מתחילה
הוא באמת מאוד יקר.

2219
01:35:23,979 --> 01:35:25,937
דניאל:
אז העבודה שלי יכולה להיות, כמו,

2220
01:35:25,981 --> 01:35:27,939
ספר לבובי לילה על זה
בארוחת ערב?

2221
01:35:27,983 --> 01:35:29,767
קרוליין: בכנות, כן,
זה חלק מזה.

2222
01:35:29,811 --> 01:35:31,638
ואנחנו נצטרך לעשות

2223
01:35:31,682 --> 01:35:34,424
הרבה דברים ש
עוד לא חשבנו עליו.

2224
01:35:34,467 --> 01:35:36,034
אנשים הולכים להסתכל על
כל מה שתיארנו

2225
01:35:36,078 --> 01:35:37,253
ותגיד, "זה לא מספיק."

2226
01:35:37,296 --> 01:35:38,950
מה שחשוב זה שהכוחות

2227
01:35:38,994 --> 01:35:40,909
שעובדים
לקראת פתרונות

2228
01:35:40,952 --> 01:35:44,434
להתחיל לחרוג מהכוחות ש
פועלים נגד פתרונות.

2229
01:35:44,477 --> 01:35:46,392
הופכים את העולם לטוב יותר
תמיד היה קשה.

2230
01:35:46,436 --> 01:35:47,829
זה אף פעם לא היה קל.

2231
01:35:47,872 --> 01:35:49,961
כאילו, היו
הרבה דברים מחורבנים

2232
01:35:50,005 --> 01:35:51,920
שקרו בהיסטוריה,
והיה לנו--

2233
01:35:51,963 --> 01:35:53,704
כאילו, לאנשים היו
להתמודד עם זה,

2234
01:35:53,748 --> 01:35:56,794
ואז הם קמו
ושינה אותו.

2235
01:35:56,838 --> 01:36:00,319
יש מספר מטורף
של אתגרים לפנינו,

2236
01:36:00,363 --> 01:36:04,106
אבל אם נוכל לעבור אותם,

2237
01:36:04,149 --> 01:36:08,066
אנחנו יכולים לפתוח עתיד מעבר
הדמיון הפרוע ביותר שלנו.

2238
01:36:08,110 --> 01:36:10,416
קרוליין:
אנחנו חייבים להתאחד

2239
01:36:10,460 --> 01:36:14,246
ולמצוא את הדרך ביניהם
ההבטחה והסכנה.

2240
01:36:14,290 --> 01:36:16,422
אנחנו לא יכולים להיות פסימיים
או אופטימיים.

2241
01:36:17,423 --> 01:36:19,425
אנחנו צריכים להפוך למשהו חדש.

2242
01:36:21,732 --> 01:36:24,474
חבר שלי מתקשר אליי
אפוקליפטיסט.

2243
01:36:24,517 --> 01:36:26,041
"אפוקלאופטימיסט"?

2244
01:36:26,084 --> 01:36:28,260
אני חושב שזה יכול להיות
המילה האהובה החדשה שלי.

2245
01:36:28,304 --> 01:36:29,914
-[צוחק] -MAN: יכול להיות
השם של הסרט הזה.

2246
01:36:29,958 --> 01:36:31,263
יכול להיות שזה השם
של הסרט הזה. -[צחוק]

2247
01:36:31,307 --> 01:36:34,179
-"אפוקלאופטימיסט".
-"אפוקלאופטימיסט".

2248
01:36:34,223 --> 01:36:35,833
כֵּן.

2249
01:36:35,877 --> 01:36:37,269
אני לא מאמין באבדון.

2250
01:36:37,313 --> 01:36:39,054
אני מאמין ברוח החיים,

2251
01:36:39,097 --> 01:36:42,666
אה, ואני מאמין שבחיים כן
לגבי היכולת לפעול.

2252
01:36:42,709 --> 01:36:44,276
-[שירת הקהל]
-היכולת להתייחס,

2253
01:36:44,320 --> 01:36:46,365
היכולת להרגיש.

2254
01:36:49,020 --> 01:36:50,979
-[פטפוט משימות לא ברור]
-[מריע]

2255
01:36:51,022 --> 01:36:53,938
אנחנו צריכים להכפיל
עוד ועוד

2256
01:36:53,982 --> 01:36:57,028
על היכולות הללו
שיש לנו כבני אדם

2257
01:36:57,072 --> 01:37:00,118
כי מערכות רובוטיות
לעולם לא יהיה.

2258
01:37:00,162 --> 01:37:04,296
זה הזמן ממש עכשיו
לקבל את ההחלטות האלה לגבי

2259
01:37:04,340 --> 01:37:07,473
איך להנחות אותו ולתמוך בו
במקום לחלק אותנו.

2260
01:37:07,517 --> 01:37:10,259
דניאל: זה קצת נשמע כמו
לגדל ילד.

2261
01:37:10,302 --> 01:37:12,435
זה מה שקורה. כֵּן.

2262
01:37:12,478 --> 01:37:14,480
קרוליין: אולי יש בינה מלאכותית
יותר אינטליגנציה גולמית

2263
01:37:14,524 --> 01:37:17,222
-מהמוח האנושי הקטן שלנו,
-[תינוק צוחק]

2264
01:37:17,266 --> 01:37:21,052
אבל אנחנו הרבה יותר
מאשר רק האינטליגנציה שלנו.

2265
01:37:21,096 --> 01:37:25,056
אינטליגנציה היא-יש
היכולת לפתור בעיות.

2266
01:37:25,100 --> 01:37:28,320
חוכמה היא היכולת לדעת
אילו בעיות לפתור.

2267
01:37:30,932 --> 01:37:33,717
[פטפוט צוות לא ברור]

2268
01:37:33,760 --> 01:37:34,892
דניאל:
זה יכול ללכת על המקרר שלך.

2269
01:37:34,936 --> 01:37:36,198
[צוחק]

2270
01:37:36,241 --> 01:37:38,113
יודקובסקי:
אז, אל תוותר.

2271
01:37:38,156 --> 01:37:39,766
האנושות עשתה

2272
01:37:39,810 --> 01:37:42,160
דברים יותר קשים מזה
בהיסטוריה שלה.

2273
01:37:43,553 --> 01:37:46,338
פשוט קשה לשכנע
אנשים שהם צריכים.

2274
01:37:46,382 --> 01:37:48,645
♪ ♪

2275
01:37:51,474 --> 01:37:52,562
[שמע מפציץ]

2276
01:37:54,912 --> 01:37:56,827
דניאל: אז, כשהתחלתי
עושה את הסרט הזה,

2277
01:37:56,871 --> 01:37:58,437
הייתי אומר שאני, כאילו,

2278
01:37:58,481 --> 01:38:00,918
בגדול אידיוט ציני
על כל העניין הזה.

2279
01:38:00,962 --> 01:38:03,094
במהלך הקורס
של עשיית הסרט,

2280
01:38:03,138 --> 01:38:04,661
למדתי להבין
שכמו,

2281
01:38:04,704 --> 01:38:07,446
זה הדבר היחיד
אנחנו לא יכולים להיות.

2282
01:38:07,490 --> 01:38:09,361
...או כל דבר אחר
אתה רוצה לדון?

2283
01:38:09,405 --> 01:38:11,363
לא. אני חושב שכיסינו הרבה.

2284
01:38:11,407 --> 01:38:13,017
-כֵּן. [מצחקק]
גבר: תודה רבה.

2285
01:38:13,061 --> 01:38:15,498
תוֹדָה.

2286
01:38:15,541 --> 01:38:16,891
דניאל:
זו בעיה גדולה יותר

2287
01:38:16,934 --> 01:38:19,067
מכל אדם אחד.

2288
01:38:19,110 --> 01:38:21,547
זה ישנה את העולם
דרכים שאנחנו לא מבינים.

2289
01:38:21,591 --> 01:38:23,462
זה הכל נכון.

2290
01:38:23,506 --> 01:38:25,551
-[צוחק]: בסדר.
-[פטפוט לא ברור]

2291
01:38:25,595 --> 01:38:27,684
דניאל:
אבל מה שכן יש לנו סוכנות

2292
01:38:27,727 --> 01:38:30,078
זה מה שאנחנו עושים בעניין.

2293
01:38:30,121 --> 01:38:32,558
ככל ש- AI גבול גדל
בעל יכולת אקספוננציאלית יותר...

2294
01:38:32,602 --> 01:38:34,430
דניאל:
והמציאות

2295
01:38:34,473 --> 01:38:36,562
זה אם רק נחליט
זה חסר תקווה,

2296
01:38:36,606 --> 01:38:39,000
אז זה חסר סיכוי.

2297
01:38:39,043 --> 01:38:40,740
...כדי לשים פחות לחץ
על כדור הארץ...

2298
01:38:40,784 --> 01:38:42,742
דניאל:
אבל אם תחליט

2299
01:38:42,786 --> 01:38:45,528
שאתה רוצה לנסות...

2300
01:38:46,790 --> 01:38:48,096
...אז אתה מנסה.

2301
01:38:48,139 --> 01:38:49,967
וזה קשה.

2302
01:38:51,273 --> 01:38:53,188
אבל אתה יודע מה?

2303
01:38:53,231 --> 01:38:56,278
דברים גדולים נראים בלתי אפשריים
לפני שהם קורים בפועל.

2304
01:38:58,149 --> 01:39:01,413
אבל כשהם סוף סוף קורים,

2305
01:39:01,457 --> 01:39:05,243
זה בגלל מיליוני אנשים
ביצע מיליוני פעולות

2306
01:39:05,287 --> 01:39:07,550
כדי לגרום להם לקרות.

2307
01:39:07,593 --> 01:39:10,292
וכך...

2308
01:39:10,335 --> 01:39:12,424
אנחנו חייבים לנסות.

2309
01:39:13,469 --> 01:39:14,905
[נאנח בכבדות]

2310
01:39:21,129 --> 01:39:23,522
יש יותר מדי על הכף.

2311
01:39:23,566 --> 01:39:25,611
♪ ♪

2312
01:39:32,401 --> 01:39:34,664
[סרט מתפצפץ]

2313
01:39:37,232 --> 01:39:41,236
תראה את השינויים המדהימים
חווינו ושרדנו

2314
01:39:41,279 --> 01:39:42,846
מתקופת האבן,

2315
01:39:42,889 --> 01:39:46,110
ובכל זאת שינויים גדולים עוד יותר
עדיין לבוא.

2316
01:39:46,154 --> 01:39:49,157
["איבדתי את זה כדי לנסות"
מאת Son Lux מנגן]

2317
01:40:18,403 --> 01:40:20,449
♪ ♪

2318
01:40:47,606 --> 01:40:50,174
♪ מה נעשה עכשיו? ♪

2319
01:40:50,218 --> 01:40:53,221
♪ איבדנו את זה כדי לנסות ♪

2320
01:40:53,264 --> 01:40:55,092
♪ איבדנו את זה ♪

2321
01:40:55,136 --> 01:40:56,746
♪ לנסות ♪

2322
01:40:59,575 --> 01:41:02,230
♪ מה נעשה עכשיו? ♪

2323
01:41:02,273 --> 01:41:05,189
♪ איבדנו את זה כדי לנסות ♪

2324
01:41:05,233 --> 01:41:06,973
♪ איבדנו את זה ♪

2325
01:41:07,017 --> 01:41:08,714
♪ לנסות ♪

2326
01:41:11,630 --> 01:41:14,111
♪ מה אנחנו יכולים לומר עכשיו? ♪

2327
01:41:14,155 --> 01:41:17,201
♪ הפה שלנו רק משקר ♪

2328
01:41:17,245 --> 01:41:18,637
♪ הפה שלנו ♪

2329
01:41:18,681 --> 01:41:20,683
♪ רק משקר ♪

2330
01:41:25,122 --> 01:41:27,690
♪ מה אנחנו יכולים לומר עכשיו? ♪

2331
01:41:27,733 --> 01:41:30,823
♪ הפה שלנו רק משקר ♪

2332
01:41:30,867 --> 01:41:32,216
♪ הפה שלנו ♪

2333
01:41:32,260 --> 01:41:34,218
♪ רק משקר ♪

2334
01:41:34,262 --> 01:41:36,264
♪ ♪

2335
01:42:01,071 --> 01:42:03,726
♪ תיכנע וצא ♪

2336
01:42:03,769 --> 01:42:06,685
♪ אנחנו קמים בגוססים ♪

2337
01:42:06,729 --> 01:42:08,209
♪ אנחנו קמים ♪

2338
01:42:08,252 --> 01:42:10,211
♪ בגוססים ♪

2339
01:42:13,127 --> 01:42:15,781
♪ תיכנע וצא ♪

2340
01:42:15,825 --> 01:42:18,654
♪ אנחנו קמים בגוססים ♪

2341
01:42:18,697 --> 01:42:20,221
♪ אנחנו קמים ♪

2342
01:42:20,264 --> 01:42:22,223
♪ בגוססים ♪

2343
01:42:25,051 --> 01:42:27,663
♪ תיכנע וצא ♪

2344
01:42:27,706 --> 01:42:30,666
♪ אנחנו קמים בגוססים ♪

2345
01:42:30,709 --> 01:42:32,233
♪ אנחנו קמים ♪

2346
01:42:32,276 --> 01:42:34,148
♪ בגוססים ♪

2347
01:42:37,107 --> 01:42:39,718
♪ תיכנע וצא ♪

2348
01:42:39,762 --> 01:42:42,591
♪ אנחנו קמים בגוססים ♪

2349
01:42:42,634 --> 01:42:43,809
♪ אנחנו ♪

2350
01:42:43,853 --> 01:42:45,898
♪ ♪

2351
01:43:15,580 --> 01:43:17,626
♪ ♪

2352
01:43:22,761 --> 01:43:25,286
♪ הו, הו, הו, הו, הו ♪

2353
01:43:25,329 --> 01:43:26,983
♪ הו, הו, הו, הו ♪

2354
01:43:27,026 --> 01:43:28,419
♪ הו, הו ♪

2355
01:43:28,463 --> 01:43:31,379
♪ הו, הו, הו, הו, הו, הו ♪

2356
01:43:31,422 --> 01:43:32,945
♪ הו, הו, הו, הו ♪

2357
01:43:32,989 --> 01:43:34,382
♪ הו, הו ♪

2358
01:43:34,425 --> 01:43:37,036
♪ הו, הו, הו, הו, הו, הו ♪

2359
01:43:37,080 --> 01:43:39,648
♪ מה נעשה עכשיו? ♪

2360
01:43:39,691 --> 01:43:42,651
♪ איבדנו את זה כדי לנסות ♪

2361
01:43:42,694 --> 01:43:44,566
♪ איבדנו את זה ♪

2362
01:43:44,609 --> 01:43:46,307
♪ לנסות ♪

2363
01:43:46,350 --> 01:43:49,005
♪ הו, הו, הו, הו, הו, הו ♪

2364
01:43:49,048 --> 01:43:51,703
♪ מה נעשה עכשיו? ♪

2365
01:43:51,747 --> 01:43:54,706
♪ איבדנו את זה כדי לנסות ♪

2366
01:43:54,750 --> 01:43:56,578
♪ איבדנו את זה ♪

2367
01:43:56,621 --> 01:43:58,406
♪ לנסות. ♪

2368
01:43:58,449 --> 01:44:00,451
♪ ♪

2369
01:44:23,126 --> 01:44:24,475
[השיר מסתיים]